AGIマジックボックス、冥王星か鉄腕アトムをリリースしますか？

人間と機械の共生はSF作品における永遠のテーマです。その中でも『PLUTO』は、人間とロボットが対立しながら共存できる方法を探求した最も初期の漫画作品かもしれない。

もしアトムが人間と機械の共生の「平和の使者」であり、何世代にもわたって人々にロボットへの信頼と愛着を抱かせてきたのだとしたら、プルートはアトムとは正反対の、憎しみに満ちた殺人マシンだ。 『鉄腕アトム』のスピンオフ作品『地上最大のロボット』では、スーパーロボット「PLUTO」が鉄腕アトムを含む世界最大のロボット7体に挑戦する。

この物語は後に浦沢直樹によってさらに脚色され、人間と機械の共存におけるさまざまな矛盾や葛藤を、より多くのスペースと言葉を使って描写しました。

最近、冥王星の物語がNetflixで映画化されました。アニメ「PLUTO」は、公開と同時にDouban点数9.1、IMDb点数9.3とヒットを記録し、絶賛を浴びている。

このアニメのテーマは昔ながらの「人間と機械の共生」ですが、2023年に見るとまた違った味わいがあります。

今年は、大規模モデルの「知能の出現」により、人間レベルの推論能力が実証されました。具現化された知能は、SF映画における人間と機械の共存の実現を加速させ、AGIの実現はもはや手の届かないものではなくなりました。

同時に、大規模モデルやAGIがもたらす影響や危険性も徐々に表面化してきています。何人かの画家は、AIが自分たちの作品を学習することに共同で反対した。 OpenAIのクーデターの理由の1つは、科学者の「AIの制御不能」に対する懸念であり、中国と米国のAI競争も一連のゲームを引き起こしました。

より大きな世界を忘れないでください、多くの地域がアニメ「PLUTO」の中東戦争に似た戦争の影に巻き込まれています。

私たちが住んでいる現実世界は、知らないうちに特異点を超えています。近い将来、人間と機械の共生はどのようになるのでしょうか? AIは冥王星のように人々を殺すために使用されるのでしょうか?私たちは「10万馬力」の超知能ロボットの集団を歓迎する準備ができているでしょうか?

子供の頃に鉄腕アトムのアニメを見ていたときと同じ好奇心を持って、私たちと一緒に想像力を働かせてみませんか。

殺人マシーンが目覚める？再び「狼が来る」

ネタバレを避けるために、アニメ「PLUTO」のあらすじを一言でまとめると、ロボットたちが宇宙の中心で愛を叫んでいるというものです。

人間とロボットが共存する将来、ロボットは人間と同様の感情や思考能力を持ち、人間と幸せな家庭を築くことができるようになります。いくつかの奇妙な殺人事件は、人間と機械の共存における隠れた矛盾を明らかにした。ロボットは憎しみを抱き、怒りに任せて銃を構えた...

これを読んで、この話は見覚えがあると思いますか?

遠い西暦3xxx年、人間社会の技術レベルは高度に発達し、人工知能は至る所にあり、ある日ロボットたちが『ウエストワールド』のドロレスのように目覚め、人間たちがさまざまな方法で自分たちを抑圧していることに気づき、戦い、復讐を始める、といったSF作品は数多くあります。

ロボットの意識の覚醒と人類に対する制御不能な脅威の出現は、ほぼすべての「テクノロジーゴーストストーリー」の本質的な特徴です。しかし、PLUTO はまさに「狼少年」のケースです。

まず、AGI 強力な人工知能が実現したとしても、IQ と意識は同じものではありません。長い間、インテリジェントマシンは音声、表情、ジェスチャーなどを通じて人間の感情表現をシミュレートすることしかできず、実際に感情的な経験をすることはできませんでした。さらに、強力な人工知能の実現にはまだまだ遠い道のりがあります。 GPT-4 の最近のチューリングテストでは、そのスコアは人間のスコアよりもはるかに低かった。 「機械意識の覚醒」に対する恐怖は、まさにもう一つの「不気味の谷効果」です。

第二に、念のためですが、もしロボットが本当に意識を獲得したら、彼らは間違いなく邪悪になるのでしょうか？明らかにそうではありません。鉄腕アトムとプルートが対立する2つの陣営であるように、ロボットの行動特性も「善」と「悪」に分かれます。 AI 技術に関する現在の理解と、人間とロボットの現在の関係からすると、ロボットは「人間に脅かされている」とは感じず、当然、人間を殺したりロボットの反乱軍団になったりする可能性は低いのではないかと思います。 『流転地球2』や『PLUTO』などの最新SF作品と同様に、ロボットの脅威は、ネットワークの脆弱性、人間の悪意ある操作、そして人間が生き続けるためにアルゴリズムが計算する「善意が悪い結果を招く」ことから生じる場合がほとんどです。

ChatGPTのような優れた能力を持つ知的存在が出てくるたびに、機械の「超知能」という神話が登場し、IQを誇示し、「機械の知能が人間の知能を超える」「機械が人間に取って代わる」といった考えを売り込みます。明らかに、これらの見解は支持できない。機械がどれだけ強力であっても、人間の知恵を打ち負かすことはできません。

ただ、人々はいつもスリリングな物語や想像上の危険を信じたがるだけなのです。別の視点から見ると、危険に対するこの本能的な敏感さは、野生で生き残るために人間の DNA に刻み込まれているのかもしれません。したがって、「狼少年」から「殺人マシーン覚醒」まで、この種の物語は常に人々を楽しませ、主人公を変えてやり直すことができます。

隠された本当の問題：高度に共生的な社会危機

人々が知能機械の覚醒の誤ったリスクについて議論しているとき、本当の危険は見えにくくなっているのかもしれない。これらの本当のリスクは、人間と機械の共生の問題です。

大規模モデルの登場により、機械は自動化システムから高度に自律的なシステムへと進化できるようになりました。

いわゆる自動化システムは、掃除ロボットやサーモスタットに似ており、制御可能な環境で、固定された目標に従って設定されたタスクを実行するだけで済みます。しかし、家庭用ロボットや自動運転車などの具現化された知能は、明らかにそれほど単純ではありません。動的に変化する物理環境において、障害物を正確かつ迅速に検出し、適切な判断とそれに応じたアクションをリアルタイムで実行する必要があります。これらの高度に自律的なシステムは、人間と同様の知能を示します。ビッグモデルは、自律システムの具現化された知能を現実のものにしています。

素晴らしいように聞こえますが、人間と自律システムが共生する未来にはセキュリティ上のリスクが伴う可能性があります。

1. アルゴリズムのブラックボックス。 AIは「ダークナレッジ」を有し、理論的または数学的分析の助けを借りずに意思決定を行うことができ、地震予測や天気予報などの分野では人間の専門家よりも優れた能力を発揮できる。しかし、AI は、その背後にある科学的原理や数学モデルを実際には理解していません。重要なシステムが信頼できない場合、生産プロセスにおける安全性を確保することは困難になります。たとえば、飛行機の自動操縦システムを設計する場合、ホワイトボックスの数学的モデルを使用すると安全基準を満たすことができますが、アルゴリズムがブラックボックスであるため、十分な安全性と信頼性を保証することはできません。

2. 失業問題。自動化のレベルが上がり、ロボットの使用が広まるほど、失業率は高くなります。すべての御者が車の運転を学べるわけではない。自律システムによって置き換えられた仕事の多くは、二度と戻ってこないでしょう。プログラミングや芸術創作など、創造性が求められ、AIに代替されにくい職業は、限られた人にしか仕事の機会を提供できません。職業構造の変化は必然的に失業の痛みをもたらし、AI産業の発展を妨げることになる。過去 1 年間にわたる多数の画家による AIGC への反対と抵抗は、このことを明確に証明しています。

3. テクノロジーへの依存。ほとんどの人にとって、AI アプリケーションやロボットの登場は間違いなく生活をより快適にするでしょう。例えば、自動食品配達車やホテルサービスロボットにより、手作業が大幅に削減されました。 ChatGPT は、学生が宿題をしたり論文を書いたりするのを手助けします。これは、人間が徐々に特定のスキルを失っていくことも意味します。例えば、将来の子供たちは唐や宋の詩を暗唱する必要がなくなるかもしれません。ロボットが丁寧に物を届けるようになり、人々の日常活動は減少し、肥満などの隠れた危険をもたらす。アルゴリズムの予測がますます正確になるにつれ、私たちは周囲の一般人のアドバイスや自分自身の感覚や直感に耳を傾けるのではなく、徐々にAIに頼って意思決定を行うようになるでしょう。意思決定、行動、フィードバックというポジティブなメカニズム全体も中断され、人々はますます自信を失ってしまいます。人間と機械の共存は「ぬるま湯でカエルを茹でる」ようなものです。テクノロジーへの過度の依存は根拠のない心配ではありません。

4. 政治的対立。もう一つの潜在的な脅威は、政府と企業組織間の疑念と駆け引きから生じます。インテリジェント技術の制御は政治問題となり、インテリジェント技術を中心とした技術競争は冷戦時代と同様の政治的駆け引きを引き起こしている。

2023年11月20日にニューヨーカー誌に掲載された「AIのゴッドファーザーが自らの作ったものを恐れる理由」と題された記事の中で、チューリング賞受賞者のジェフリー・ヒントンは率直にこう述べた。「人工知能がどのようなものになるかは分からない。」しかし記者が「なぜプラグを抜かないのですか？」と質問すると、ヒントン氏は「各国間の競争のためです」と答えた。これに先立ち、彼は人工知能研究を少なくとも6か月間停止することを求める請願書への署名を拒否し、「中国は6か月間研究開発を停止しない」と述べた。一部の政府、企業、科学者は政治的配慮から、人工知能のリスクをそのまま放置するだろうと信じる理由がある。

人間主体の社会から機械主体の社会へと移行するにつれ、運用メカニズムもそれに応じて変化しなければなりません。殺人などの災害に直接つながることはないかもしれないが、雇用、文化、政治秩序への影響は安全保障上のリスクも生み出すだろう。

これからパンドラの箱が開かれる

本当のリスクが発見された今、事前に予防策を講じて人間と機械の共生における摩擦を軽減できるのだろうかと疑問に思う人もいるかもしれません。

技術的にも社会的にも、この願いはあまり現実的ではありません。

技術的な観点から見ると、AI は人類史上のいかなる技術的リスクとも異なります。 AI は自律的に学習し進化するアルゴリズムであるため、大量のデータを継続的に処理し、複雑な内部変換と「教師なし学習」を実行する必要があります。そこに潜むパターンや隠れたバグは、人間のエンジニアがタイムリーに捕捉できない可能性があります。プログラマーが次のようなジョークを言うのをよく耳にします。「プログラムが実行でき、機能するのであれば、それに触れず、"糞山" を片付けることなど考えないでください。」そのため、人間は AI の成長を自らの手で制御することはできないかもしれません。ちょうど 1 年前、ChatGPT が「知能を出現」させて世界をひっくり返すことになるなんて、誰が想像できたでしょうか。

社会レベルでは、主流の国々が危機に対処するために現在取っているアプローチは、「予防的予防」ではなく「動的バランス」であることが多い。先制的な予防には、事前に「最悪のシナリオ」を評価し、防御的な投資を行うことが必要です。コストが非常に高く、一般的には医療、自然災害、戦争などでのみ使用されます。強力な人工知能のリスクはそれほど深刻ではありません。 「肝心な時にAIの電源を抜く」とジョークを飛ばす人もいました。したがって、この危機の予防には費用対効果を考慮する必要があります。絶対的な安全性を追求するあまり最大限の利益を犠牲にするのではなく、経済性と安全性の間の動的なバランスを見つけます。この「動的バランス」の問題により、反復的な作業を行う労働者、低レベルのホワイトカラー労働者、単純な知識生産者など、置き換えられる圧力に直面している一部の脆弱なグループがより大きなリスクにさらされることになります。

ビッグモデルのAIの道は、AGIの強力な人工知能の「パンドラの箱」を開けています。プルートがリリースされるのか、鉄腕アトムがリリースされるのか、あるいは両方がリリースされるのかはまだ不明です。

人間とロボットが高度に融合し共存する社会が必然となる中、私たちは何に頼って楽観と自信を保つべきなのでしょうか。 「PLUTO」が答えを与えてくれたのではないかと思います。それは「愛」です。

人類の種子は、戦争の炎と焦土の中で粘り強く芽生え、何度でも新たな世界を再建するだろう。