Nature: AIは中毒になるほど便利なのか？人間が「傲慢」になるので注意

近年、科学研究分野における人工知能（AI）技術の応用と影響はますます重要になってきています。 AI4Science は、生物医学、材料科学、天文学などの分野にいたるまで、科学研究の実施方法を変え、科学研究を加速させています。

AIは、大規模なデータ分析、実験環境のシミュレーション、研究プロセスの最適化などの機能を提供することで、科学者に前例のないサポートと支援を提供し、科学研究を新たな段階に押し上げました。

しかし、AI は科学研究にさらなる可能性をもたらす一方で、多くの問題も引き起こします。

イェール大学とプリンストン大学の研究チームは、科学研究においてAIが知識生産の均一化、つまり科学の単一文化につながる可能性があると考えています。

具体的には、ある種の方法、疑問、視点が他のものよりも優先される文化であり、科学の革新性が低下し、誤りが生じやすくなります。

同時に、AI によって提案される解決策は私たちの認知的限界を覆い隠し、私たちが世界について実際よりも多くを知っているという錯覚に陥らせてしまう可能性もあります。

したがって、科学者は責任を持って知識を生み出すために、科学研究における AI の潜在的な影響を慎重に考慮する必要があります。

「科学研究における人工知能と理解の錯覚」と題された関連研究論文が科学誌「ネイチャー」に掲載された。

この論文では、AI4Science に関連する膨大な文献から AI の 4 つの主要な応用ビジョン (Oracles、Surrogates、Quants、Arbiters) を抽出し、それぞれ科学研究における AI の応用と影響について説明します。

表 |科学研究における AI のビジョン。上記の 4 つのタイプは、科学分野全体にわたって知識生産を改善する AI の可能性に関する最近の出版物の分析を通じて導き出されました。収録されている論文では、一般的なフレーズ「AI」を使用しているか、AI コンセプトに基づく具体的な方法（最も一般的なのは機械学習、自然言語処理、大規模言語モデル）について言及しています。この表は、ビジョンがさまざまな研究段階にどのように対応するか、また科学的能力と効率性に関して認識されている限界をまとめたものです。

なぜ人間の科学者は AI を信頼するのでしょうか?

近年、科学研究において AI の活用が拡大しており、AI が提供するソリューションは科学研究の方法に革命をもたらす可能性があると考えられています。

しかし、AIはどのようにして科学者の信頼を得ることができるのでしょうか?

まず、 AI ツールは単なるツールとしてではなく、人間の限界を超えたソリューションや洞察を提供できる研究協力者として捉えられています。この認識により、科学者は AI を知識生産のパートナーとみなすようになり、AI に対する信頼が高まります。

第二に、 AI ツールは、客観性、深い理解、満足のいく説明を提供する能力など、信頼性を高める特性を備えていると認識されています。この描写により、特定の状況では AI ツールは人間よりも信頼できるものになります。

第三に、 AI ツールは、シンプルで広範、簡略化され、定量化された説明に対する人々の好みに合ったソリューションを提供し、それによって理解の認識を高めます。

しかし、AI を科学研究に統合することには、特に認知的理解の錯覚という形で、認知上のリスクも伴います。

図 | AI 主導の科学研究における理解の錯覚。

上の図 a に示すように、研究に AI ツールを使用する科学者は、説明の深さについて錯覚している可能性があります。この例では、科学者が AI Quant を使用して現象 (X) をモデル化し、X を実際よりもよく理解していると信じています。

図 b では、単一の認知文化において、科学者は探索の広さについての錯覚に陥りやすく、すべての検証可能な仮説の空間を探索していると誤って信じてしまいますが、実際には AI ツールで検証できるより狭い仮説の空間を探索していることになります。

さらに、図 c に示すように、知識の単一文化では、科学者は客観性の錯覚に陥りやすく、AI ツールには立場がない、またはあらゆる立場を表現できる（研究に参加する人間の代わりの人を使用）と誤って信じてしまうことがありますが、実際には AI ツールにはトレーニング データと開発者の視点が組み込まれています。認知的理解の錯覚は、個人が自分の理解度を過大評価し、AI ツールや他のコミュニティ メンバーの知識や能力を自分のものと勘違いしたときに発生します。この現象は、特に AI ツールが専門家の領域外で使用される場合に、科学的主張における誤りや過度の楽観主義につながる可能性があります。

AI4Science の将来は明るいでしょうか?

AI ツールは信頼性が高く、研究の質と量を向上させることが期待されるため、これらのツールに依存する研究は大幅に増加する可能性があります。現在、出版物や特許における AI の引用が増加しており、AI ツールを使用した論文は分野内外を問わず引用が増加傾向にあります。

この傾向が続くと、AI 支援研究が徐々に知識生産を支配するようになるときに、どのような認知リスクが生じるでしょうか?

この記事は、科学は単一文化を形成する可能性があるという視点を示しています。

著者は、この点を説明するために次のような例え話を使っている。農業において、単一栽培とは同じ土地で 1 つの作物だけを栽培する慣行である。この方法は効率を向上させますが、作物を害虫や病気に対してより脆弱にします。

この記事は、AI ツールによってもたらされる効率性が、特定の形式の知識生産が他のすべてを支配する科学的単一文化の発展を促進する可能性があると主張しています。これらは、2 つの異なるが補完的な方法で実現できます。

まず、 AI支援に最適な問題と手法を優先順位付けします（知識生産のモノカルチャー）。

2つ目は、 AIが表現できる視点の種類を優先することです（知識所有者のモノカルチャー） 。

植物の単一栽培が害虫や病気に対してより脆弱であるのと同様に、科学的な単一栽培は、世界に対する私たちの理解を、誤り、偏見、そして革新の機会の喪失の影響を受けやすくします。

新しいツールやテクノロジーが登場すると、科学者はすぐにそれらを活用する傾向があります。しかし、AI ツールがさまざまな分野で広く使用され、知識コミュニティに統合されたスーパーコラボレーターになると予想されるため、このようなリスクは特に深刻になる可能性があります。

知識生産の単一文化は、科学の繁栄を脅かすだけでなく、認知的理解の幻想を生み出します。こうした幻想の中で、科学者たちは AI ツールが科学に対する人間の理解を深めると誤って信じていますが、実際にはこれらのツールが科学的知識の生産範囲を狭めていることを認識していません。

リスクを理解することは、リスクに対処するための重要なステップです。知識生産に AI を適用するリスクを軽減するには、人間が科学的単一文化の認知リスクと認知的錯覚の認識に対する理解を深める必要があります。

実際、AI 化学者が触媒研究を加速したり、生成 AI が炭素回収を支援したりするなど、科学における AI の応用は、すべての人を本当に興奮させます。

しかし、 AI4Science がさらに前進する前に、科学者は AI の技術的な限界と可能性、そして科学的知識生産の社会的実践に対する AI の影響を考慮する必要があります。

AI 支援による科学研究は、参加者だけでなく研究テーマにおいても多様性が欠如した未来を告げることになるかもしれない。また、認知的理解の錯覚を引き起こし、視野が狭まっていることに気づかないようにもします。

科学における AI の広範な使用は避けられませんが、科学者は知識を生み出すことに加えて、物事がどのように発展するかを決定する責任を負っています。

論文リンク:

https://www.nature.com/articles/s41586-024-07146-0