人工知能は人間の感情に介入している。将来、世界はどのようになるのでしょうか?

人工知能は徐々に私たちの周りに影響を与え始めています。ソーシャルメディアでの広告のターゲティング、求職者の選別、航空運賃の決定、音声認識によるセントラルヒーティングシステムの制御、文化的な成果の創出、交通の流れの調整など、人工知能は人間の生活の中でますます多くのタスクを実行しています。

2050 年までにこれらの特定の領域を超えて進歩し、最終的には汎用人工知能 (AGI) を実現できると広く信じられています。 AGI は、Microsoft がリリースした新しいコンセプトのオペレーティング システムである Singularity の一部です。コンピューターはあらゆる認知タスクにおいて人間を上回る能力を発揮できるようになり、人間と機械の融合が極めて一般的になるという考えです。その後何が起こるかは誰にも分からない。

AI戦略はありますか？そうだったらいいのにと思いますか？

興味深いアイデアの 1 つは、人間の体内にコンピューター部品を組み込み、人間がデータをより速く処理できるようにすることです。人工知能の分野で構想されている「ニューラル グリッド」は、脳の外側にある追加の皮質として機能し、私たちを電子機器に非常に高速かつ効率的に接続する可能性があります。これは、機械部品、つまり「サイボーグ」の体内の電子ペースメーカーとチタン合金の関節における大きな革新となるでしょう。将来の AI の焦点は軍事および防衛の用途に置かれ、完全に自律的な兵器の概念は非常に物議を醸しています。このような兵器システムは、アルゴリズムと過去の安全保障上の脅威からの学習に基づいて、人間の関与なしに標的を捜索、識別、選択、破壊することができます。これはかなり恐ろしい概念です。

人工知能が支配する未来のこれらのビジョンは、まるで『ターミネーター』のワンシーンを彷彿とさせる、SFのディストピアです。

偶然の同一視

人類が破滅するまでにはまだまだ時間がかかるかもしれないが、人工知能の倫理をめぐる警告はすでに警鐘を鳴らしている。先月、機械学習アルゴリズムがアマゾンのユーザーに爆弾の部品の作り方を積極的に提案したり、求人広告に男女不平等を反映したり、ソーシャルメディアを通じて憎悪メッセージを拡散したりしたとして非難を浴びた。このエラーの多くは、機械学習で使用されるデータの品質と性質に起因します。機械は人間のデータから完璧とは言えない結論を導き出します。今日、このような結果は、日常生活におけるアルゴリズムの管理と人工知能のメカニズムについて深刻な疑問を提起しています。

最近、精神疾患の病歴を持つ若いアメリカ人男性が、アルゴリズムによる性格テストに対する態度が不十分だったという理由で就職を拒否された。彼は不当かつ違法な差別を受けたと考えているが、会社側はアルゴリズムの仕組みを理解しておらず、労働法も現時点では機械による意思決定を明示的に規定していないため、法的措置は取っていない。中国の「社会信用」制度も同様の懸念を引き起こしている。昨年、このプログラムは友人の投稿を含むソーシャルメディアからデータを収集し、個人の「市民権」の質を評価し、その人に融資を行うかどうかなどの決定に役立てた。

AI倫理と法律の必要性

特に政府や企業は電力の取得や維持など特定の分野を優先しているため、AI の運用と規制に関する明確な倫理的枠組みを策定する必要があります。イスラエルの歴史家ユヴァル・ノア・ハラリ氏が、自動運転車のパラドックスとトロッコ問題について論じる。 MIT の Moral Machine のような革新的なプロジェクトは、機械倫理に対する人間の入力に関するデータを収集することを目指しています。

しかし、AIと人間の健康に関する疑問が生じるのは倫理だけではありません。人工知能はすでに人間の感情に大きな影響を与えています。それにもかかわらず、感情は人工知能研究のテーマとしては無視されてきました。

過去 2 年間に科学学術データベースの Web 上で公開された人工知能に関する査読済み論文 3,542 件を自由に閲覧できます。そのうち「感情」という言葉が含まれていたのはわずか43件、つまり1.2%でした。 AI における感情に関する研究を実際に説明する記事はさらに少ないです。シンギュラリティ システムを検討する場合、人工機械の認知構造内で感情を考慮する必要があります。しかし、AI 研究の 99% はこれに同意していないようです。

人工知能は人間の感情を理解する

AI における感情について話すとき、私たちはいくつかの異なる意味を持ちます。 1つは、機械が私たちの感情状態を認識し、それに応じて行動できることです。感情コンピューティングの分野は、生体認証センサーを使用して皮膚反応、脳波、顔の表情、その他の感情データを測定するなど、急速に発展しています。ほとんどの場合、計算は正確です。

この技術の応用は良いことにも悪いことにもなり得ます。企業は映画に対する感情的な反応に基づいてフィードバックを取得し、スマートフォンを通じて関連商品をリアルタイムで販売することができます。政治家は特定の聴衆に訴えるメッセージを慎重に作成するかもしれません。ソーシャルロボットは、医療や介護の現場で患者をよりよくサポートするために応答を調整するかもしれませんし、デジタルアシスタントは歌で気分を高めてくれるかもしれません。市場の力によってこの分野の発展が促進され、その範囲が拡大し、能力が磨かれます。

私たちは人工知能をどのように見ているのでしょうか?

これは人工知能の2番目の感情領域です。人工知能に対する人間の感情的な反応に関しては、まだほとんど進歩がありません。人間は、ほとんどのテクノロジーと同じように AI と関わりたいと考えているようで、無生物に個性を関連付けたり、家電製品に目的を持たせたり、「AI は私に対して怒っているから機能しないのだ」といった感情を、私たちが使用するテクノロジーに投影したりしている。

これはメディア方程式と呼ばれるものです。これには一種の二重思考が関わっています。つまり、私たちは機械が知覚力を持った存在ではないことを知的に理解しているにもかかわらず、機械が感情を持っているかのように感情的に反応してしまうのです。これは、人間関係や感情的なつながりといった、人間の最も基本的なニーズから生じているのかもしれません。これらがなければ、人間は落ち込んでしまいます。この欲求が、人間を他の人々、動物、さらには機械とつながるように駆り立てます。感覚体験は、この絆を築く原動力と報酬メカニズムの重要な部分であり、喜びの源です。

偽ソーシャル

つながりや帰属意識を感じられる環境が私たちの周囲に存在しないとき、私たちはテレビ、映画、音楽、本、ビデオゲーム、その他没入型の社会世界を提供するあらゆるものを通じてそれを再現します。これは社会的代理仮説と呼ばれ、社会心理学によって実証的に裏付けられた理論であり、人工知能に適用され始めています。

仮想人工知能に直面した場合でも、人間の基本的な感情は有効です。たとえば、デジタルアシスタントが私を褒めたときは嬉しかったし、アルゴリズムが私の住宅ローンの申し込みを拒否したときは怒り、自動運転車が私を狂わせたときは怖かったし、Twitter の人工知能が私のアカウントの認証を拒否したときは悲しかったです (この問題については今でも悲しいです)。

ロボット

人間は物理的な AI、つまりロボットに対してより強い感情的な反応を示します。ロボットが人間に似ているほど、それに対する私たちの感情的な反応は強くなります。私たちは擬人化されたロボットに惹かれ、それらに対して肯定的な感情を表現し、それらが傷つけられるのを見ると同情と不快感の両方を感じます。拒絶されたら悲しい気持ちになるかもしれません。

しかし興味深いことに、ロボットがほぼ完全に人間に似ているが、完全に人間ではない場合、ロボットに対する私たちの評価は突然低下し、拒否することになります。これはいわゆる「不気味の谷」理論であり、その結果として生じる設計哲学は、いつか人間と全く同じロボットを作れるようになるまで、現段階ではロボットをあまり人間らしく見せないようにするというものです。

優しいタッチ

人工知能は現在、タッチベースの体験である触覚技術を活用して、人間とロボットの間の感情的な絆をさらに深めています。おそらく最も有名な例は、さまざまな国の介護施設で活用されているアザラシの「パロ」でしょう。

社会的かつ感情的なロボットには、多くの潜在的な用途があります。これらの中には、高齢者の介護や自立した生活の支援、孤立に苦しむ人々、認知症、自閉症、障害を持つ人々の支援などが含まれます。これは、タッチベースの感覚体験が仮想現実などの没入型テクノロジーにますます統合される傾向の一部です。

他の分野では、AI が日常の家事や教育などのタスクを担当するようになるかもしれません。韓国の5歳から18歳までの子供750人を対象にした調査では、ほとんどの子供が人工知能ロボットによる授業に問題なく従えたものの、AI教師が演じる感情的な役割について懸念を示した子供が多かったことがわかった。ロボットは生徒にアドバイスや感情を伝えることができますか?しかし、40％以上が教師を人工知能ロボットに置き換えることに賛成した。

ハーバード大学の心理学者スティーブン・ピンカーが主張しているように、上記のような社会的代替の経験は、私たちが自分自身を欺くことを可能にする可能性がある。私たちは実際には社会的交流を経験していないのに、自分のことをより良く感じるために、そうであると脳を騙して信じ込ませているのです。しかし、レプリカは本物ほど良くありません。

結論

明らかに、人々は AI とやりとりすることで本当の感情を体験することができます。しかし、私たちは自動運転車、バーチャルアシスタント、ロボット教師、掃除人、遊び仲間といったものを超えた、もっと身近な何かを見逃しているのではないでしょうか？

この光景は、ハリー・ハーロウの有名な実験を彷彿とさせる。ハーロウの実験では、隔離されたサルに、冷たい金網の柵を通り抜けてミルクをもらう代わりに、柔らかい毛皮を持つ「母親」を選ぶようにさせた。私たちは、テクノロジーによって望むものをすべて達成し、人間の基本的な感情的ニーズや現実世界の感覚的体験の喜びが存在しないことに気づくことができるでしょうか?将来の贅沢品として、私たちは大量生産されたジャンクフードとは正反対のもの、つまり、ロボットではなく本物の感覚体験や生身の人間との接触を求めるのでしょうか?

答えは、まだ分かりません。しかし、AI 研究の 99% が感情に焦点を当てていないという事実は、感情が AI で大きな役割を果たすとすれば、それは後付けか、感情データが AI デバイスとその雇用主にさらなる権力と資金を与えるためであることを示唆しています。デジタルヒューマニズムプロジェクトは、私たちがシンギュラリティシステムや人間と機械の融合に向かって進むにつれて、太古の哺乳類の脳とその感情的な結びつきの必要性を無視してはならないことを思い出すのに役立つかもしれません。 OpenAI プロジェクトは、人工知能のメリットを誰もが利用できるようにすることを目標とし、その目標に向けた一歩です。それでは、さらに一歩進んで、AI の文脈における感情的な健康について考えてみましょう。これが私たちをどこに導くのか、誰にも分からない。

今日頭条の青雲計画と百家曼の百+計画の受賞者、2019年百度デジタル著者オブザイヤー、百家曼テクノロジー分野最人気著者、2019年捜狗テクノロジー文化著者、2021年百家曼季刊影響力のあるクリエイターとして、2013年捜狐最優秀業界メディア人、2015年中国ニューメディア起業家コンテスト北京3位、2015年光芒体験賞、2015年中国ニューメディア起業家コンテスト決勝3位、2018年百度ダイナミック年間有力セレブなど、多数の賞を受賞しています。