AIを「間違って」使うと、人間は本当に愚かになってしまいます！私はあなたに嘘をついていません

AI における 1 日は、現実世界の 1 年と同じです。過去2年間でAI技術は急速に発展し、私たちの生活に浸透するスピードは飛躍的に進んでいると言えます。スマートホームから自動運転、スマートカスタマーサービスから AI アシスタント、書くことや描くことから感情的な伴侶に至るまで、効率的で便利な AI テクノロジーは私たちの行動を少しずつ静かに変え、生活の質と仕事の効率を向上させています。

ギャラリー内の画像は著作権で保護されています。転載して使用すると著作権侵害の恐れがあります。

私のような労働者（無償で何かを得ることを夢見る人々）の多くは、「苦痛のない仕事」を夢見始めています。つまり、AI の力を使って、あまり労力をかけずに仕事を完了し、人生を楽しむことができることを夢見ています。

毎月200〜300元を支払ってAIメンバーシップを取得し、作業の50％以上をアウトソーシングする。これを非常に魅力的に思わない人がいるでしょうか？しかし、AI がもたらす利便性に浸る一方で、思考の鈍化、依存、怠惰といった、 AI がユーザーにもたらす可能性のある悪影響にも注意する必要があります。

これを聞いて、AI はこんなに楽しく使えて、こんなに早く良い結果を出すなんて、大げさに言っているんじゃないかと疑う友人もいるかもしれませんね。

これは誇張ではありません。

過去2年間に、多くの研究が同様の結論に達しました。皆様に双方の意見を聞いて理解していただくために、AI関連のいくつかの研究や学者の結論や提案を「わかりやすい言葉」で紹介します。心配しないでください。基礎知識がなくても理解できます。

AI は運転中に人を居眠りさせているのでしょうか?

ウォートン校の准教授であるイーサン・モリック氏は、2024年4月に『Co-Intelligence: Living and Working with AI』という本を出版した。

この本では、モリック氏と他の同僚が世界有数のコンサルティング会社の一つであるボストン コンサルティング グループ (BCG) に研究の実施支援を依頼した実験が紹介されている。この実験にはボストンコンサルティンググループのコンサルタント約800人が参加した。

コンサルタントはランダムに 2 つのグループに分けられ、1 つのグループは通常の方法で作業し、もう 1 つのグループでは GPT-4 (OpenAI の主力製品であり、大規模言語モデルのリーダーの 1 つ) を使用する必要がありました。

これらのコンサルタントは、人工知能のトレーニングを受けた後、クリエイティブタスク、分析タスク、ライティングおよびマーケティングタスク、説得タスクなど、BCG が設計した 18 のタスクを自由に実行できます。これらは、通常のコンサルティング コンサルタントの業務範囲内の標準的なタスクです。

どちらのグループがより良い成績を収めたと思いますか?

ギャラリー内の画像は著作権で保護されています。転載して使用すると著作権侵害の恐れがあります。

実際のところ、答えには何の不思議もありません。人工知能を使ったグループの方がよい結果が出ました。さらに、この判断は主観的なものではありません（リーダーが「できる」と言ったら、できるという類のものではありません）。代わりに、研究者らは118種類の異なる分析を使用したが、それでも人工知能を使用したグループは大きな優位性を持っていた。

AI グループのコンサルタントは、作業が速く、創造性が高く、文章力も優れ、分析スキルも優れていました。すべての面において問題ありません。

あなたはこう言うかもしれません: これは素晴らしいと思いませんか?

しかし、研究者たちは心配な点を発見した。コンサルタントがタスクの完了を支援するために AI を使用したとき、AI がすでにほとんどの作業を完了していたため、実験参加者のほとんどは、尋ねられた質問を単に貼り付け、AI の回答を作業結果にコピーしただけだったのだ。

BCG はその後、 AI が正しい答えを導き出せないように慎重に選ばれたタスク、つまり、難しい統計的な質問と誤解を招くデータを組み合わせたタスクを設計しました。

AI の支援がない場合、人間のアドバイザーは 84 パーセントの確率で正しかったのですが、アドバイザーが AI を使用した場合、正しかったのは 60 ～ 70 パーセントに留まりました。

なぜこのようなことが起こるのでしょうか?

ご想像のとおり、コンサルタントは前回と同様に、AI からの回答をそのままコピーして貼り付けました。これはコンサルタントが手抜きをしたせいだとは到底言えません。あなたがこのような状況に陥り、一見「完璧」な標準的な答えが目の前にあったとしたら、それを直接使用せずにはいられないでしょう。

研究者たちは、 AIに頼りすぎるコンサルタントはハンドルを握ったまま居眠りする運転手のようなものだという鮮明な比喩を使っている。人工知能は非常に強力で、ほとんどのタスクをうまく完了できるため、人間は無意識のうちに AI に過度の信頼を寄せてしまいます。しかし、問題が AI の能力を超えた場合、この信頼は大きな間違いにつながる可能性があります。

AIは「有能な」生徒を教えるのでしょうか、それとも「役に立たない」生徒を教えるのでしょうか?

教育業界では人工知能がますます広く利用されており、賢い大学生たちはすでにさまざまな大規模モデルを活用して、できるだけ早く宿題を終わらせようとしています。さらに、学校や政府機関と共同で開発されたインテリジェントなソフトウェアやハードウェアが多数あり、他の商業企業が提供する教育補助製品もいくつかあります。教育分野における人工知能の応用に関する研究は、明らかに非常に重要かつ必要です。

昨年6月、ネイチャー誌に掲載された研究では、パキスタンと中国の大学生における意思決定の喪失、怠惰、プライバシーの問題に対する人工知能の影響を調査した。

この研究では主にパキスタンと中国のさまざまな大学の学生285人の学習状況を調査しました。データ分析の結果、人工知能は生徒と教師の意思決定能力に重大な影響を及ぼし、生徒を怠惰にさせることが判明した。さらに、セキュリティとプライバシーの問題も生じます。

調査結果によると、人間（参加した教師と生徒）の怠惰の68.9％、個人のプライバシーとセキュリティの問題の68.6％、意思決定エラーの27.7％が人工知能の影響によるものであることが分かりました。

ギャラリー内の画像は著作権で保護されています。転載して使用すると著作権侵害の恐れがあります。

人工知能技術を使用する教師と生徒は、徐々に課題に取り組む意欲を失い、次第に人間的な意思決定力を失っていくことになります。人工知能の使用と依存が増加すると、人間の脳の思考能力は自動的に制限されることになります。

同時に、人工知能の使用により、リアルタイムの物理的なやり取りが大幅に減少し、生徒と教師の間の教育環境に影響が及ぶことになります。

実際の環境では、教師と生徒の間で多くの交流があり、生徒の個性と公民力を育成します。例えば、生徒は他の生徒から学んだり、先生に質問したり、クラスメイトからのフィードバックを感じたりすることができますが、これらはすべて AI だけでは実現するのが難しいものです。

この研究は、教育にAI技術を大規模に導入する前に重要な予防措置を講じる必要があると主張している。人類の主な問題（人間の本質には固有の弱点がある）に取り組まずに人工知能を受け入れることは、悪魔を召喚するようなものです。この問題に対処するには、教育向け AI の適切な設計、展開、使用に重点を置くことが推奨されます。

AIの活用が進めば進むほど、優秀な人材の採用が容易になるのでしょうか？

AI のもう 1 つの一般的な用途は、人事部門が履歴書を審査し、採用を支援することです。それで、効果はどうですか?

ハーバード・ビジネス・スクールのイノベーション科学研究所の社会学者ファブリツィオ・デラクア氏が2022年に発表した研究では、同氏は181人のプロのリクルーターを雇い、44件の履歴書を審査した。

彼は被験者をランダムに4つのグループに分け、「完璧に予測できる人工知能」「良い人工知能」「悪い人工知能」「人工知能なし」といった相手と募集作業を行った。

その結果、高品質の AI を使用した被験者は、求人応募書類をそれほど正確に評価せず、履歴書 1 つ 1 つに費やす時間と労力が少なく、AI の推奨に盲目的に従ったことが判明しました。また、時間が経っても改善されませんでした。

しかし、 「質の悪い AI」を使用する採用担当者は、履歴書の評価に多くの労力と時間を費やしており、AI が推奨する候補者を自動的に選択する可能性は低くなります。彼らはより注意深く、より選択的であり、より自立しています。これらの採用担当者は、担当する AI とより効果的にやり取りする方法を学び、パフォーマンスを向上させました。

これは、高性能な人工知能が人間に怠惰を「奨励」し、ハンドル操作を完全に人工知能に任せ、運転席で居眠りをさせる可能性があることを示しています。

AIが人間の向上を助け、人間がAIの善行を監督する

スティーブン・ホーキングはかつて、人工知能の成功的な開発は人類史上最も重要な出来事になるだろうと語った。残念ながら、リスクを回避することを学ばなければ、これが最後になる可能性もあります。

私たち人間が何らかの欠点を持って生まれてくることは否定できませんが、それは私たちを人間たらしめる重要な属性でもあります。偉大なテクノロジーが最初に作られたとき、それらはすべて人間の欠点を補ったりバランスをとったりすることを目的としていました。私たちが最も見たくない結果は、私たちの欠点がどんどん短くなっていくことです。

人工知能技術は人類に利益をもたらすために開発されましたが、現時点では、人類自身のレベルを向上させ、いくつかの面で人類に利益をもたらすという目標は達成されていません。

豊かな感情を持つ炭素ベースの人間として、私たちは時々怠惰になるに違いありませんが、すべての意思決定権をシステムを完全に信頼して委ねるとき、実際には取引を行っているということ、そして隠れたコストはあなたの内因的な深い思考とスキルの成長スペースである可能性があることを認識する必要があります。 (えーっと、ここで強調したいのは、人工知能を使って「宿題を提出」する学生たちです。賢い幽霊たち、あなたたちのことです)

仕事の効率を上げるために AI と協力する場合、AI を全知全能の召使いとしてではなく、風変わりなチームメイトとして見るべきです。私たちは、彼らの決定の道徳性を考慮しながら、嘘や偏見、不注意や省略がないか確認することを忘れてはなりません。最も重要なのは、どのタスクをロボットに引き渡す価値があるか、どのタスクを自分たちだけで保持したいかを検討することです。

結局のところ、人工知能に完全に「あなたのために働かせる」ことができれば、将来のある日、あなたの仕事を破壊するのは人工知能ではなく、あなた自身になるでしょう。

参考文献

[1]Ahmad SF、Han H、Alam MM、Rehmat MK、Irshad M、Arraño-Muñoz M、Ariza-Montes A. 意思決定における人的損失、怠惰、教育における安全性に対する人工知能の影響。人文・社会・科学・コミュニケーション2023;10(1):311.土井: 10.1057/s41599-023-01787-8。 Epub 2023年6月9日。PMID: 37325188; PMCID: PMC10251321。

[2] イーサン・モリック著「コ・インテリジェンス：AIと共に生きる、AIと共に働く」ペンギンランダムハウスのレーベルであるPortfolioから出版されています。著作権 2024。

[3] 「運転中の居眠り：人事採用担当者に対する現場実験における人間とAIのコラボレーション」、ファブリツィオ・デラクア、ハーバード・ビジネス・スクール、イノベーション科学研究所

企画・制作

著者: Mumu、北京師範大学で数学を専攻するシニアプロダクトマネージャー、AI起業家

レビュー丨テンセント玄武ラボの責任者、Yu Yang氏

企画丨Ding Zong

編集者: ディン・ゾン

校正：Xu Lai、Lin Lin

この記事の表紙画像と画像は著作権ライブラリから取得しています

転載は著作権紛争につながる可能性がある