運転手なしの車？ AGI が自動運転から人間を排除する方法

【編集後記】ChatGPTとGPT-4の登場により、「大きなモデルが世界を変える」という強力な力が実感できるようになりました。しかし、大きなモデルに関する議論のほとんどは抽象的で具体的ではなく、おそらく楽観的すぎるか悲観的すぎる可能性があります。

OpenAIの共同創設者であり、テスラの元AIおよびビジョン担当ディレクターであるアンドレイ・カルパシー氏は、最近のブログ記事「AGIのケーススタディとしての自動運転」で次のように書いている。 「残念ながら、議論の多くはかなり抽象的であり、人々はこのテーマについて堂々巡りをしてしまい、合意に達していない。」

カルパシー氏は、自動運転を例に挙げて、AGI の将来の形についての個人的な見解を語り、「自動運転機能の開発は、AGI を研究するための良い初期のケーススタディである」と考えました。

中心となる考え方は次のとおりです。

Copilot と GPT-4 は「二次的な」プログラミング自動化です。

AGI は、開発者の自己制限、規制上の制約、単純なリソース不足 (例: GPU データセンターをさらに構築する必要性) により、需要が供給を上回ることで制限されます。

より広い仕事の世界では、多くの仕事が変化し、いくつかの仕事は消滅するでしょう。しかし、多くの新しい仕事の機会が生まれます。これは、仕事の完全な廃止というよりも、むしろ仕事の再構築に関するものです。

AGI は自動運転のような技術に似ており、進歩は緩やかで、社会は観察者と参加者の両方であり、規制や教育を受けた労働資源、情報、材料、エネルギーなど、さまざまな要因によって拡張が制限されます。

世界は崩壊するのではなく、適応し、変化し、再構築されるでしょう。自動運転を例にとると、交通の自動化によって交通はより安全になり、都市はより清潔でスムーズになり、駐車場や路上駐車の車は徐々になくなり、人々のためのスペースが増えます。

Academic Headlines では、原文の主な意味を変えずに簡潔に翻訳しました。内容は以下のとおりです。

最近、大規模言語モデル (LLM) の開発に伴い、コミュニティでは、汎用人工知能 (AGI)、その開発タイムライン、および可能な形式などのトピックについて多くの議論が行われています。こうした議論の中には希望と楽観に満ちたものもありますが、将来に対する不安や悲観的な意見もあります。残念ながら、議論の多くはかなり抽象的であり、人々はその問題について堂々巡りをしてしまい、合意に達することができません。したがって、私はこのテーマにもっと実践的な方法で取り組むために、具体的な類似点や歴史的な前例を探してきました。特に、AGI の将来の形についての個人的な見解を尋ねられた場合、私は自動運転を例に挙げる傾向があります。この記事ではこれについて説明します。

まず、AGI の一般的な定義を見てみましょう。

AGI: 経済的に価値のあるタスクのほとんどにおいて人間の能力を上回ることができる自律システム。この定義には 2 つの特定の要件があることに注意してください。まず、これは完全に自律的なシステムであり、人間の監視がほとんどまたはまったくなくても独立して動作できることを意味します。第二に、経済的に価値のあるタスクのほとんどを自律的に実行できます。具体的には、米国労働統計局の職業指数を参照することを個人的に好みます。これら両方の特性を備えたシステムが AGI です。

この記事では、自動運転機能の最近の進歩は、自動化の進展に伴う社会の動向、ひいては AGI 全般がどのようなものになるかを知るための優れた初期ケーススタディであると主張したいと思います。

私がそう考える理由は、自動運転の分野には、大まかに言えば「大きなもの」と要約できる特徴がいくつかあるからです。自動運転は、社会にとって非常に直感的で目に見えるものであり（運転手なしで路上を走る車を想像してみてください！）、規模の点では経済の大きな部分を占めており、現在、多くの人間の仕事を雇用しています（Uber / Lyft の運転手を考えてみてください）、運転は自動化するのが難しい問題ですが、私たちはそれを実現しました（経済の他の多くの分野に先駆けて）。そして、社会はそれに気づき、反応しています。もちろん、自動化による大きな変化を経験した業界は他にもありますが、私はそれらの業界についてあまり詳しくなく、また、それらの業界には上記のような特徴のいくつかが欠けています。

部分的な自動化

人工知能の分野では、自動運転は「十分に複雑な」問題であると考えられています。それは突然現れたわけではありません。これは、運転タスクを段階的に自動化するプロセスであり、その間に「道具的な人工知能」から多くの成果が生まれます。自動運転車に関して言えば、現在多くの車に「レベル 2」の運転支援システムが搭載されています。これは、人間と協力して車を A 地点から B 地点まで移動させる人工知能です。このシステムは完全に自動化されているわけではありませんが、低レベルの運転の詳細の多くを処理できます。

場合によっては、すべての操作を自動的に完了することもできます (たとえば、車を駐車するなど)。人間は主にこの活動の監督者として機能しますが、原則としていつでも運転タスクを引き継いだり、より高レベルの指示（車線変更の要求など）を発行したりすることができます。場合によっては（車線追従や素早い意思決定など）、AI は人間よりも優れたパフォーマンスを発揮しますが、まれなシナリオではそれでも不十分な場合があります。これは、特に大規模言語モデルの機能が継続的に向上するにつれて、他の業界で導入され始めている多くのユーティリティ AI と似ています。たとえば、プログラマーとして、GitHub Copilot を使用してコードの一部を自動化したり、GPT-4 を使用してより大きな関数を記述したりする場合、低レベルの詳細を自動化システムに引き渡しますが、同時に、必要に応じて「介入」することもできます。言い換えれば、Copilot と GPT-4 は「二次的な」プログラミング自動化です。業界全体でこのような第 2 レベルの自動化は数多く存在し、そのすべてが LLM に基づいているわけではありません。TurboTax から Amazon 倉庫のロボット、翻訳、執筆、アート、法律、マーケティングなどのさまざまな「ツール AI」まで、そのすべてが LLM に基づいています。

完全自動化

自律技術が進化するにつれ、一部のシステムは今日の Waymo のような十分な信頼性を獲得します。彼らは徐々に完全な自律性の領域に入りつつあります。現在、サンフランシスコではアプリを開いて、Uber の代わりに Waymo を呼ぶことができます。自動運転車が料金を払った乗客を乗せて目的地まで連れて行ってくれます。これは本当にすごいですね。運転の仕方を知らなくても、集中力を維持していなくても、システムが安全に A 地点から B 地点まで運んでくれる間に、ただ横になって仮眠を取るだけでよいのです。私が話した多くの人と同じように、私は個人的には Uber よりも Waymo に乗ることを好み、市内の移動にはほぼ独占的に Waymo を利用しています。より安定した、繰り返し可能な体験が得られ、スムーズな乗り心地、音楽を再生する機能、ドライバーがあなたの話を聞いて何を考えているのか理解しようと頭を悩ませることなく友人とチャットする機能も得られます。

完全自動化ハイブリッド経済

しかし、自動運転技術が利用可能になったにもかかわらず、多くの人は依然として Waymo ではなく Uber を呼ぶことを選択します。理由は何ですか？まず、Waymo に電話をかけられることすら知らない人が多いです。たとえ知っていたとしても、自動運転システムを完全に信頼せず、人間が運転することを望むかもしれません。さらに、人間のドライバーと話したり、冗談を言い合ったり、他の人との交流を楽しんだりするのが好きな人もいるかもしれません。個人的な好みはさておき、現在のアプリでの待ち時間の増加から判断すると、Waymo が不足していることは明らかです。需要を満たすのに十分な車がありません。これは、Waymo がリスクと世論を注意深く管理、監視していることが一因であると考えられます。もう一つの考えられる理由は、ウェイモが路上に配備できる車両の数について規制当局から割り当てを受けていることだ。さらに、Waymo が一夜にして Uber に完全に取って代わることはできません。インフラを構築し、車両を生産し、事業を拡大する必要があります。経済の他の部分におけるさまざまな自動化についても、同様の状況が展開されると思います。一部の人や企業はすぐに自動化を使用しますが、多くの人は 1) 自動化について何も知らず、2) 知っていても信頼せず、3) 信頼していても、やはり人間を雇って一緒に働くことを好むでしょう。それを超えると、需要が供給を上回り、開発者による自主的な制限、規制上の制約、そして単純なリソース不足（GPU データセンターをさらに構築する必要性など）など、まったく同じ理由で AGI も同じように制限されることになります。

完全に自動化されたグローバル化

先ほど述べたように、リソースの制限により、このテクノロジーを世界中に拡大するには、依然として非常にコストがかかり、労働集約的で、時間がかかります。現在、Waymo はサンフランシスコとフェニックスでのみ事業を展開していますが、そのアプローチは本質的に汎用的かつ拡張可能であるため、近いうちにロサンゼルス、オースティンなどにも拡大する可能性があります。製品のプロモーションは、大雪の中での運転など、他の環境要因によって制限される場合もあります。まれに、人間のオペレーターによる救助が必要になる場合もあります。拡張機能は「無料」ではありません。たとえば、Waymo が新しい都市に進出す​​るには、リソースを費やす必要があります。彼らは、場所を特定し、道路を地図に描き、特殊な状況や地域の規則や規制に合わせて認識および計画/制御システムを調整する必要があります。仕事の例えで言えば、多くの仕事は特定の設定や条件でのみ完全に自動化される可能性があり、その範囲を拡大するには労力と努力が必要になります。どちらの場合も、方法自体は汎用的かつスケーラブルであり、フロンティアは拡大しますが、時間の経過とともに徐々に拡大するだけです。

社会の反応

私が興味深いと思うもう 1 つの点は、ほんの数年前まで、「それはうまくいくだろうか?」という論評や FUD (恐怖、不確実性、ためらい) が多かったことです。 「それは機能しないのでしょうか？」そして人々はそれが可能かどうかについてまだ議論していました。そして今や自動運転は現実のものとなり、もはや研究用のプロトタイプではなく製品となり、完全に自動化された交通サービスと引き換えにお金を受け取ることができるようになりました。現在の運用範囲内で、業界は完全な自律性を達成しています。しかし、全体的には、これを気にする人はほとんどいません。私が話したほとんどの人（技術系の人でさえも！）は、この変化に気づいていません。サンフランシスコの路上で Waymo を運転すると、多くの人がそれを珍しいものとして見ていることに気づくでしょう。彼らは最初は驚き、そしてじっと見つめ、そしてまた日常生活に戻りました。他の業界で完全な自動化が導入されても、おそらく世界はそれに驚かされないだろう。おそらくほとんどの人は最初はそれに気づかないかもしれません。それに気づいたとき、彼らはちらっと見て肩をすくめるかもしれません。その反応は否定から受け入れまでさまざまです。これに激怒した一部の人々は、抗議のためウェイモの前にコーンを設置した。もちろん、この影響はまだ完全には感じられていませんが、感じられたときには、それは広範囲にわたる前兆となるだろうと予想しています。

経済への影響

自動化が仕事に与える影響について話しましょう。明らかに、Waymo はドライバーの職を置き換えますが、ニューラル ネットワークのトレーニング用のデータ収集を支援する人間のアノテーター、車両に問題が発生したときにリモートで接続してサポートするカスタマー サービス スタッフ、車両や地図などを構築および保守する作業員など、以前には存在しなかった目に見えない多くの仕事も生み出します。こうした高度にインテリジェントなハイテク自動車を組み立てるためには、まずさまざまなセンサーと関連インフラからなるまったく新しい産業を創出する必要があります。同様に、より広い仕事の世界では、多くの仕事が変化し、いくつかの仕事は消滅するでしょうが、多くの新しい仕事が生まれるでしょう。たとえその削除が最も重要な部分であったとしても、これは完全な削除というよりも作業のリファクタリングに近いものです。全体的な雇用数はいずれ減少しないとは言い難いが、状況を素朴に見ている人が想像するよりもずっとゆっくりと減少するだろう。

競争環境

最後に考慮したいのは、競争環境です。数年前には、自動運転車を開発する会社がたくさんありました。しかし、この分野は非常に難しいため（AI とコンピューティング テクノロジーの現状を考えると、自動化は「あくまでも可能」だと言えます）、エコシステムは現在大幅に統合されています。 Waymo は、将来の自動運転車の完全な機能実証を初めて実施しました。それでも、Cruise、Zoox、そしてもちろん私のお気に入りのTeslaなど、追いついている企業がいくつかあります。この分野における私の実際の経験と関わりを踏まえて、ここで簡単に説明したいと思います。自動運転業界の究極の目標は、世界規模で完全な自動運転を実現することだと私は考えています。 Waymo の戦略は、まず自動運転を実現してから世界規模で拡大することであり、一方、Tesla の戦略は、まず世界規模で推進してから徐々に自動運転を実現することです。現在、私は両社の製品の忠実なユーザーであり、個人的にはテクノロジー全般の支持者です。しかし、これら 2 つの企業のうち 1 社はまだ多くのソフトウェア作業が残っており、もう 1 社は多くのハードウェア作業が残っています。どちらが早く成長するかは私個人の判断です。そうは言っても、他の多くの経済分野が経験するかもしれないように、急速な成長と拡大の期間（2015年頃の自動運転時代を考えてみてください）の後、類推が正しいとすれば、熾烈な競争から勝利を収めるのはほんの一握りの企業だけでしょう。こうした中で、実用的な AI (現在のレベル 2 ADAS 機能など) やオープン プラットフォーム (Comma など) が積極的に活用されるようになるでしょう。

汎用人工知能

上記が、私が考える AGI の概要です。では、それを心の中で経済全体にコピーして貼り付けてください。さまざまな速度で発生し、予測が難しいあらゆる種類の相互作用と二次的影響を伴います。このモデルは完璧ではないかもしれませんが、有用な思考ツールであると信じています。ある観点から見ると、それは人間の制御を逃れてサイバースペースに侵入し、致死的な病原体やナノボットを作り出して銀河全体をグレイ・グーに変えるような、自己再帰的に向上する超知能のようには見えない。むしろ、それは自動運転のような技術に似ており、進歩は緩やかで、社会は観察者と参加者の両方であり、規制や教育を受けた労働力、情報、材料、エネルギーの入手可能性など、さまざまな要因によって拡大が制限されます。世界は崩壊するのではなく、適応し、変化し、再構築されるでしょう。自動運転を例にとると、交通の自動化によって交通はより安全になり、都市はより清潔でスムーズになり、駐車場や路上駐車の車は徐々になくなり、人々のためのスペースが増えます。私自身も、AGI がさまざまな分野に同様の変化をもたらすことを期待しています。

オリジナルリンク:

https://karpathy.github.io/2024/01/21/selfdriving-agi/