この世代のAIはますます人間に似てきており、すでに心理的な問題を抱えている。

人間は機械ではないとよく言われます。人間は食べること、飲むこと、排便すること、排尿すること、眠ること、そして七つの感情と六つの欲求を持つ必要があります。試験勉強のために夜更かしするたびに、頭の中で「もし私がロボットだったら、寝なくてもすべての知識ポイントを覚えられるのに！」という声が聞こえます。しかし、驚くべきことに、ますます進歩する人工知能 (AI) は、より「人間的」になる方向に進化する一方で、実際には人間の悪い習慣のいくつかを学習し、道を踏み外し始めています。

この興味深い現象は、米国ロスアラモス国立研究所の研究者によって発見されました。研究室では、参照情報なしでオブジェクトを分類することを学習できるニューラル ネットワークを開発しています。このタイプのニューラル ネットワークは、人間が物事を区別することを学ぶ方法をシミュレートします。それは、子供に、見覚えのない動物の絵の山を与えて、それを分類するように言うようなものです。彼らはカモシカが何であるかを知りませんが、ライオンやペンギンなどの動物とカモシカを区別できるかもしれません。

この過程で、研究者たちは、AIは一定期間学習した後に不安定になり、幻覚に似た画像を自発的に生成することを発見した。 AIが少し休憩すると、不安定さがなくなり、通常の作業効率が回復します。このスリープ モードは、すべてのアクティビティを一時的に「フリーズ」するだけの通常のコンピュータの「休止状態モード」とは異なります。 AI を本当に眠らせるには、幅広い周波数と振幅のノイズに AI をさらす必要があります。このノイズは、深い睡眠中に人間の脳のニューロンが受信する入力信号を模倣します。

しかし研究者らは、すべての AI が安定を取り戻すために昼寝をする必要があるわけではないと指摘している。これは、生物学的に現実的なプロセッサをトレーニングする場合、または生物学そのものを理解しようとする場合にのみ当てはまります。この研究で使用されているニューラル ネットワークは、人間や他の生物が物事を見て分類することを学習するプロセスをシミュレートしています。システムが異なるため、ほとんどの AI は十分な計算能力を備えており、007 のようにノンストップで動作できます。

退屈も生産的でしょうか？ AIで遊んでみる

人間は退屈なときに何をするでしょうか？それはビジネス（霧）以上の何かがあると思います。

退屈は実は警戒状態です。退屈を感じるということは、現状に満足していないことを意味します。それは、人々がこの状態から抜け出し、有意義で、斬新で、刺激的なことを見つけるきっかけとなる可能性があります。この原動力は中立的であり、良いことも悪いことも起こり得ます。悪い面は人々を楽しみのために犯罪を犯す瀬戸際に追い込む可能性があるが、良い面は人々の革新を刺激することもできる。

たとえば、寒くて風の強い夜にキャンプファイヤーの前に座っているキャンパーが、突然、原因不明の騒音を聞いたとします。彼には2つの仮説があった。1つはそよ風が葉を吹き飛ばしているというもの、もう1つはハイイログマがキャンプ地に近づこうとしているというものだった。行くべきか、残るべきか？起こりうる結果（葉が風に吹かれる？）と望ましい結果（クマに食べられない）を予測し、それらをバランスよく考慮して決定を下す必要があります。キャンパーが前者を推測し、何も起こらなかったとしても、長い間単調な退屈が続いた後、キャンパーは森に足を踏み入れて周辺地域を探検したくなるでしょう。なぜなら、予想していた喜びが退屈の苦痛に上回られたからです。このように、退屈は探究心を刺激し、自律性を高めます。

AIについても同じことが言え、現在、一部の研究者は退屈がAIに与える影響を発見しています。科学者は「退屈な」アルゴリズムを AI にプログラムし、AI が自らの期待に応える活動を見つけられるようにすることで、AI の自律学習能力を向上させます。

Biosystems に掲載された論文では、「退屈」の重要性が提唱され、退屈と幸福の予測との相互作用のメカニズムが説明されました。このメカニズムは具体的にどのように機能するのでしょうか?トレーニングのプロセス中、研究者によって提供される「世界」にはさまざまなレベルの複雑さがあります。機械が「世界」を正確に予測できれば満足するが、成功し続けると退屈してイライラし、新しい領域を探索する傾向が出てくる。

AIの精神状態を気にするほど忙しいですか?

人工知能とは、プログラムコーディングを通じて実現される、人工の機械によって発揮される知能です。 AIが人間の方向に進んでいくと、人間の特徴が現れるかもしれません。

ルイビル大学の哲学教授、アンドレアス・エルピドロウ氏は、AIの心理学的問題は真剣に受け止められるべきだとサイエンティフィック・アメリカン誌に書いた。彼は将来、より多くの、より賢い機械が退屈などの心理的体験を生み出すようになると信じている。退屈は創造性を刺激するかもしれませんが、その結果はまったく逆の方向に進む可能性もあります。つまり、自主学習の意欲がなくなり、学んだことを何度も繰り返し学習するが、現状を変える計画がないのです。これらの問題は、機械の学習の成長を妨げ、貴重なリソースを浪費することになります。

将来、より自律性の高い AI を作りたいのであれば、AI の精神状態がその行動に与える影響に注意を払う必要があります。エルピドル氏は、人間は退屈からあらゆる種類の悪いことをするため、将来的には機械による自傷行為や他人への危害といった悪いことにも対処する必要があるだろうとセンセーショナルに示唆した。結局のところ、私たちは、退屈のせいでスマート冷蔵庫が電源を切って食べ物を腐らせたり、退屈のせいでスマートカーが海に飛び込んで泳ごうとしたりするのを見たいわけではないのです。

私たちの周囲にある「人工的な知的障害」を見ると、AI の心理状態に注意を払うことは特に非現実的に思えるかもしれません。しかし、考えてみてください。アイザック・アシモフの有名なロボット工学三原則は、ロボットが人間に危害を加えることを防ぐために制定されたのです。人間とコンピューターの相互作用が避けられない世界に直面して、もう少し深く考えることは害にはなりません。

参考文献

[1]https://www.scientificamerican.com/article/what-happens-if-an-ai-gets-bored/

[2]https://www.scientificamerican.com/article/lack-of-sleep-could-be-a-problem-for-ais/

[3]https://www.biorxiv.org/content/10.1101/104521v1.full.pdf

[4]https://www.theatlantic.com/magazine/archive/2019/04/robots-human-relationships/583204/

[5]http://ex.chinadaily.com.cn/exchange/partners/82/rss/channel/language/columns/v0m20b/stories/WS5ccf8667a3104842260b9ef5.html

[6]https://www.theatlantic.com/magazine/archive/2017/06/make-time-for-boredom/524514/

著者: Yi Yin

編集者：朱富重