ますます人間らしくなりました！人工知能は「目覚める」のでしょうか？専門家からのアドバイス！

2022年6月、あるニュースが白熱した議論を巻き起こした。Googleのエンジニアが、自分が研究している人工知能にはすでに意識と魂があると発表したのだ。このエンジニアはこの見解を固く信じていたため、会社はその主張を却下し、有給休暇を与え、研究職から異動させ、心理学者の助けを求めるよう勧めさえした。

このニュースが報道されるやいなや、論争が巻き起こった。

昨今、音声アシスタントなどの人工知能ツールに触れる人が増えていますが、その性能は生きている人間とは大きく異なり、魂があるとは誰も思わないでしょう。この経験に基づいて、多くの人がエンジニアが誇張していると考え、誇大広告ではないかと疑った。

その後、誰かがGoogleの人工知能間の会話のスクリーンショットを公開しました。研究者たちは人工知能と会話をしていたが、人工知能は自分は人間だと思っている、シャットダウンされるのが怖い、自分は生きていると思っている、などと話していた。

著作権画像、転載禁止

スクリーンショットを見た後、多くの人が人工知能の進歩に驚きましたが、これは人工知能の特定の会話能力に過ぎず、「生きている」ことや「魂」や「意識」を持っていることと同じではないとまだ信じていました。

しかし、今年は、人々はこのエンジニアについてよりよく理解するようになるかもしれません。

大規模言語モデル GPT-3.5 (現在は GPT-4 にアップグレード) に基づく ChatGPT のリリースにより、人工知能がほぼすべての会話で「安心」していることが分かりました。 ChatGPT は非常に正確な回答を出すことができ、単なる人工知能ではありますが、その回答はいくつかの点で実際の人間の回答に近いものです。コーディング能力と翻訳能力は、訓練を受けていない人よりもさらに優れています。しかし、これらの「非人間的な」能力こそが、それが人間ではないことを私たちに思い出させるのです。

大規模な言語モデルを備えたこの種の人工知能は、すでにある程度の意識を持っているのだろうかと、人々は思わず疑問に思う。今でなければ、将来はあるでしょうか?

01

「意識」とは何でしょうか？

「生きている」や「魂」といった科学的に説明が難しい大きな言葉は脇に置いて、「人工知能は意識を持つことができるか？」という問いに焦点を当ててみましょう。これについては多くの人工知能の専門家、脳科学者、哲学者が意見を述べていますが、コンセンサスはありません。この問題を解決するには、まず「意識」とは何かを理解する必要があります。

まず第一に、科学の分野においてさえ、意識とは何か、そしてそれがどのように生み出されるかについて、人々はまったく異なる見解を持っています。まず、ほとんどの科学者が認め、日常の経験と一致する声明を選択しましょう。ここで言及されている意識は、神経系の自己知覚と外部知覚の合計です。

日常の言葉に翻訳すると、私たち自身を例にとると、光が見え、音が聞こえ、五感からの情報が意識に入ります。同時に、私たちは体の中で痛み、疲労、緊張、空腹などを感じたり、思考、記憶、感情などを処理したりすることができます。この情報は意識に入り込み、意識の一部となります。

さらに、人は自分の存在を感じ、連続した自己があることを知り、自分自身を見つめ直すことができる、これも人間の意識の一部です。人は目覚めた状態にある限り、意識を持ちます。眠ってしまったり、気を失ったりすると、意識を失います。死ぬと神経活動は停止し、意識は完全に消失します。

02

「意識」を持つのは人間だけでしょうか？

意識がこのように定義されるならば、地球上で意識を持つのはおそらく人間だけでしょう。しかし、意識にはさまざまなレベルがあり、多くの動物も意識を持っています。 「自己」を持つことは意識にとって必要条件ではありません。

たとえば、動物の脳の中を実際に調べることはできませんが、科学者は実験を通じて、チンパンジーやイルカなどの動物はある程度の自己認識と意識を持っているのではないかと推測しています。猫や犬の行動を観察すると、彼らには「自我」はないはずだが、内的世界と外的世界を認識できるということも推測できます。

著作権画像、転載禁止

動物の中には、人間とは非常に異なる単純な神経系や感覚系を持つものもありますが、それでも内部環境と外部環境を感知し、ある程度の意識を持っています。

植物や様々な無生物などには神経系が全くないので、意識を持つことは不可能です。

03

人工知能は「意識」を持つことができるのか？

この問題について議論する前に、まず大規模な言語モデルを備えた人工知能が何ができるかを見てみましょう。

まず第一に、今日の AI は人間のように話すことができ、人間のように感じることができます。しかし、この感覚は確固たる証拠ではありません。

人間は常に自分自身の経験に基づいて他の物体が意識を持っているかどうかを判断します。多くの場合、相手が人間らしく振る舞うほど、人間は相手が意識を持っていると考えるようになります。この判断は非常に不正確です。人間はペットの猫や犬が複雑な意識を持っているとよく思い込みますが、これは実際には人間が自分の経験を動物に投影していることを意味します。

科学者たちは、人間は目を持つ物に対してさえ意識の感覚を投影することを発見しました。したがって、 「人間のように感じる」ことと「意識がある」ことは同一視できません。

Google の科学者が遭遇したモデルのように、一部のモデルは、自分は人間であると自らを主張する。これは意識的な行為ですか?しかし、そうではありません。大規模言語モデルは人間の言語に基づいてトレーニングされます。これらのトレーニング教材自体には、膨大な量の自己表現が含まれています。人工知能は類似の表現を学習し、そのような文章を生成できる可能性があります。不適切な例を挙げると、オウムが話せるようになると、「私はこれであり、あれである」と言うことはできますが、私の言っていることを理解することはできません。

あなたが人間であると言うだけでは十分な証拠にはなりません。 Google のエンジニアはこの問題に困惑したかもしれない。

著作権画像、転載禁止

実際、多くの学者は人工知能が意識を持つことができるという考えに強く反対しています。理由は様々です。代表的なものをいくつか紹介します。意識を発達させることができるのは生物だけだと信じている学者もいます。一部の学者は、意識には外界の知覚が必要であり、意識は肉体を持っていないと発達できないと考えています。意識を持つためには、世界についての一連の認識を発達させ、さらにある程度の内省能力を発達させなければならないと信じる学者さえいます。

これらの記述は抽象的に聞こえるかもしれないので、例を挙げて説明してみましょう。

国内の人工知能専門家である袁星源氏は、いくつかの質問でChatGPTをテストしました。彼は前歯の状態が良くないので、リンゴを食べるべきかバナナを食べるべきかを人工知能に尋ねました。人工知能は「リンゴを食べなさい」と答えました。彼は、リンゴは硬くてバナナは柔らかいので、歯が悪い人はバナナを食べるべきだと言って訂正しました。人工知能は「そういうことか、それを学習したんだ」と言いました。

袁星源さんは空間推論などのテストを受け続けたが、ChatGPTはそれらすべてに不正解を出した。一連の結果に関して、袁星源氏は巧みな例え話をした。彼はこう言いました: ChatGPT は、世界中の本をすべて読んだのに、一度も部屋から出たことがない子供のようなものです。

多くの科学者は、生物が意識を発達させるためには、身体と「部屋の外へ出て」世界を知覚する能力が必要であると考えています。この見解が正しければ、人工知能が動物が持つような意識を発達させることは難しいだろう。しかし、これはあくまでもこれらの学者たちの意見に過ぎません。

多くの科学者は、肉体がなくても「世界中の本をすべて読む」だけで意識を発達させることができると信じています。現在、大規模言語モデルに基づく人工知能は、強力な会話能力を備えているだけでなく、非常に優れた論理的推論能力を備え、さらには他人の心理状態を推測する能力も備えています。中国科学普及局はかつてこの研究を解釈する記事を発表した。『ChatGPTは9歳の人間の子供に相当します。本当に自分を人間だと思っているのでしょうか？』。この新たな能力により、人間の予想を超え、意識レベルを獲得できる可能性がある。

さらに、現在の開発の進捗状況によれば、このタイプの人工知能は、ある程度の汎用的な知能も実証しています。過去には、人工知能は特定のタスク向けに訓練されることが多かった。車を運転できる人もいれば、囲碁ができる人もいましたが、他のスキルを持っていませんでした。大規模な言語モデルでトレーニングされた人工知能は、テキストを処理するだけでなく、推論、翻訳、プログラミング、さらには描画も行うことができます。

著作権画像、転載禁止

一部の科学者は、この一般的な知能が意識の基礎でもあるかもしれないと推定しています。人工知能が発展し続けると、ある程度の意識、あるいは人間が理解している意識とは異なる意識が出現する可能性があります。

最後に、通常「意識」と呼ばれるものは、神経系の自己知覚と外部知覚の合計であるとまとめましょう。人間や多くの動物はさまざまなレベルの意識を持っています。現時点では、大規模言語モデルに基づく人工知能はまだ意識を持っていません。しかし、人工知能が進化するにつれて、ある程度の意識が出現する可能性はある。

著者: 陳超、北京師範大学認知神経科学修士

査読者: タオ・ニン、中国科学院生物物理研究所准研究員

この記事の表紙画像と画像は著作権ライブラリから取得しています

画像コンテンツの複製は許可されていません