AIが「意識」を持たない理由をお話ししましょう

自己認識と感情を備えたスーパー人工知能は登場するのでしょうか?正直に言うと、この話題は決まり文句になってしまいました。各国の科学者、テクノロジー界の巨人、政治家たちが激しく議論しており、私たちが答えを知ることは不可能です。

しかし、私たちが言いたいのは、あらゆることに論理が使われるべきだということです。 AIの覚醒という話題を引き起こすような理論や推測はありますか？混乱したり、熱狂しすぎたりすることなく、人工知能の未来を想像できるような理論や推測はあるでしょうか?

偶然にも、有名な「中国語の部屋のパラドックス」など、そのような理論は実際にいくつか存在します。このシナリオ予想は、ほとんどの場合、「チューリング テスト」を否定するために使用されます。しかし、その深い意味は、実際には人工知能が人間のように自己認識を持つことは決してできないということを説明することです。

「中国語の部屋のパラドックス」とは何か

いわゆる「中国語の部屋実験」は、アメリカの哲学者ジョン・サールが 1980 年に発表した論文で提唱した思考実験です。

この思考実験では、英語しか話せない人が閉ざされた部屋に閉じ込められた場合、壁の小さな穴を通してメモを渡すことによってのみ外界とコミュニケーションすることができ、外から渡されるメモはすべて中国語で書かれているとされています。

その男性は中国語翻訳プログラムの入った本を持ってきており、部屋には原稿用紙や鉛筆、キャビネットがたくさんあった。次に、中国語翻訳プログラムを使用して、受信したテキストを英語に翻訳し、そのプログラムを使用して自分の返信を中国語に翻訳して送信します。このようなシナリオでは、外部の人は部屋にいる人が中国語に堪能であると考えますが、実際にはその人は翻訳ツールを操作することしかできず、中国語については何も知りません。

もちろん、これは思考実験であり、実際に実行することはほぼ不可能です。しかし、この実験に含まれる考えは、機械が示す知能（中国語を理解する）は、おそらく翻訳プログラムが作り出した幻想に過ぎず、機械は実際には人間の真の知能については何も知らないという可能性を示唆している。

この実験はもともと、機械がチューリングテストに合格したとしても、必ずしも知能があるわけではないと主張し、チューリングテストを反駁することを目的としていました。しかし、それは多かれ少なかれ無理があり、チューリングテストは完全に反駁されたことはありません。しかし、「中国語の部屋のパラドックス」は、技術開発の道のりで別のことを教えてくれるかもしれない。つまり、私たちの技術探究と研究はすべて、中国語から英語への翻訳プログラムを完璧にすることに向けられており、機械に本当の知能を教えることには決して向けられていないということだ。

汎用人工知能と強い人工知能の境界

ここで、よく耳にするが混同される可能性のある 2 つの概念、「汎用人工知能」と「強力な人工知能」を紹介する必要があります。

いわゆる人工汎用知能 (AGI) とは、知識や応用分野を具体的にコード化することなく、さまざまな問題や一般化された問題に対処できる人工知能技術を指します。この技術は人気がなく、まだ発展途上ですが、実際には多くの学術機関や企業が取り組んでおり、人工知能技術の将来の発展方向であると一般的に考えられています。

強い人工知能は、ジョン・サールが「中国語の部屋実験」を提唱したときに設定された人工知能のレベルです。このレベルの人工知能は、一定の人間的能力を備えているだけでなく、知覚力、自己認識力、そして独立して考え、問題を解決できる能力も備えていなければなりません。

どちらの概念も人工知能の問題解決能力に対応しているように見えますが、前者は万能のコンピューター、後者はアイアンマンの鎧を着た人間として想像することができます。

「中国語の部屋のパラドックス」が表現する考え方は、人間の研究の方向性は、基本的に強力な人工知能に近づくことができないというものです。たとえ汎用人工知能が人間のさまざまなニーズを満たすことができたとしても、自己認識力を備えた強力な人工知能との間には進歩的な関係はありません。

現実の技術発展はこんな感じのようです。

汎用人工知能の分野では、人間がいくつかの概念とアーキテクチャモデルを提案してきました。最も有名なのは、2000年にオーストラリア国立大学の学者マーカス・ハッター氏が提唱したAIXIでしょう。このコンピューティングモデルは、さまざまなアルゴリズムや技術を網羅し、汎用人工知能の本質に迫ると言われています。もちろん、このアルゴリズムの複雑性は非常に高く、まったく実行できないため、あくまでも概念にすぎません。

OpenAIやDeepMindなどの企業は過去2年間で具体的なAGI研究を開始しており、その中でもDeepMindはAIXIを継承する先駆者と考えられています。

DeepMind が実施した汎用人工知能に関する研究と実験から、その「汎用性」は主に、複雑な環境への対応、未知の環境への対処、時間変数への対応、複数の情報ソースによるタスクの同時処理という 4 つの側面に集中していることがわかります。

そして、これらすべてのテクノロジーは、インテリジェントエージェントと外界との相互作用という同じ方向を指し示しています。おそらく、それは AI と世界との間の翻訳プログラムとして理解できるのではないでしょうか。

言い換えれば、人類がやったことは「その人」に中国語を教えるのではなく（もちろん中国語を教えるのは不可能ですが）、より優れた翻訳プログラムを与えることだけです。そのため、すでに非常に神秘的なものとなっている汎用知能は、強力な人工知能との明確な境界を依然として維持しています。

必死の強いAI：能力と意識は正反対かもしれない

中国語の部屋の実験を極端に進めて、部屋全体を人の脳の中に入れてみましょう。

翻訳プログラムをすべて記憶し、中国語の単語を見たときにそれに対応する答えを思い出して書き留めることができる人は、中国語を理解していることになるのでしょうか?人間にとっては中国語は自然に理解できるものなのかもしれません。しかし、機械にとっては、処理がどれだけ速くても、応答がどれだけ敏感でも、漢字を一つも理解できないのです。

正確に言うと、この人（エージェント）は中国語を使う能力を身につけますが、中国語に対する意識はありません。

能力と意識の区別は、将来の超知能を想像するときに最も混乱を招く問題です。しかし、現実的な論理的推論の観点から見ると、この 2 つは非常に異なり、ほとんど関連性がないことがわかります。

知識表現、機械学習、NLPなどの人工知能技術は、人工知能が人間を模倣する能力を絶えず強化しているだけですが（この文章は少しわかりにくいです）、人工知能が人間の意識を模倣できるようにすることについては、今のところまだ空白です。

原因がなければ、結果は生まれません。 「中国語の部屋理論」は、人類が辿ってきた技術的軌跡によれば、知的存在の意識の上昇という命題には常に基本条件が欠けていると述べています。

もしこの結論が真実ならば、強力な人工知能にとっては非常に絶望的となるでしょう。彼らは時間と空間の長い流れの中で眠り続けることしかできない。人間の想像の中では、彼らは都市伝説の中の古代の神々や幽霊のような存在です。

考えてみれば、まだかなり退屈だと思います。

今日頭条の青雲計画と百家曼の百+計画の受賞者、2019年百度デジタル著者オブザイヤー、百家曼テクノロジー分野最人気著者、2019年捜狗テクノロジー文化著者、2021年百家曼季刊影響力のあるクリエイターとして、2013年捜狐最優秀業界メディア人、2015年中国ニューメディア起業家コンテスト北京3位、2015年光芒体験賞、2015年中国ニューメディア起業家コンテスト決勝3位、2018年百度ダイナミック年間有力セレブなど、多数の賞を受賞しています。