サイエンス最新号の表紙：陰謀論の「ウサギの穴」はAIビッグモデルによって打ち砕かれる

「陰謀論の穴に一度落ちたら、抜け出すのは難しいですか？」

情報化時代において、根拠のない陰謀論はウイルスのように世界中に広がり、社会の信頼、科学の普及、個人の精神的健康に深刻な害を及ぼしています。データによれば、米国人口の50%以上が何らかの陰謀論を信じている。

学者たちは論理的誤りを暴露し、科学的知識を広めることで陰謀論を暴こうとしてきたが、こうした介入は双方向性と対象を絞る能力に欠けており、ほとんど効果がない。

今日、人工知能（AI）は陰謀論を暴く上で新たな進歩を遂げ、その力を発揮し始めています。

AI 搭載のチャットボットにより、最も筋金入りの陰謀論者の間でも誤った信念が平均 20% 減少し、その効果は少なくとも 2 か月間持続し、さまざまな無関係な陰謀論やさまざまな人口統計カテゴリにわたっていました。

この成果は、米国のマサチューセッツ工科大学とコーネル大学の共同研究チームによるものです。彼らは、AIチャットボットを使って偽情報に対抗するという新たな方法を提案することで、「陰謀論は根深く、変えることはできない」という考えを打ち破ろうとした。

彼らは、GPT-4 Turbo などの大規模言語モデル (LLM) が強力な情報取得機能を活用して、カスタマイズされた会話型反論を使用して陰謀論者が提示した特定の証拠に直接応答することで、陰​​謀論を効果的に暴くことができるかどうかを調査しました。

研究の結果は、LLM が大量の偽情報「攻撃」に対処し、大量の反証を提供できることを示しています。人間が処理するのが難しい情報の洪水と比較すると、LLM は誤った情報に対する反論を無制限に生成できる可能性があります。

関連する研究論文は「AIとの対話を通じて陰謀論の信念を永続的に減らす」と題され、科学誌「サイエンス」の表紙記事として掲載されました。

関連する視点の記事で、ベンス・バゴとジャン＝フランソワ・ボネフォンは、「良くも悪くも、AI は私たちの文化を大きく変えるでしょう。この研究は、生成 AI の説得力のある能力の潜在的なプラスの応用を示しています。」と書いています。

AIが陰謀論を打ち砕くことに成功

Wikipedia では、陰謀論は「他の説明のほうが可能性が高い場合に、出来事や実際の状況を邪悪で強力な集団による陰謀の結果であると説明する理論」と定義されています。

これらの理論は、より信頼性の高い証拠がないため、一般的に反証不可能であり、論理的に一貫している可能性があるため、かなりの数の信者がいる可能性があります。

陰謀論を信じる人々の間で形成される陰謀論的信念は、さまざまな心理的メカニズムの影響を受けており、その不合理さは明白であるにもかかわらず、複雑な世界を単純化する必要性と、特定の出来事の不確実性への反応により、根底にある心理的およびアイデンティティのコミットメントを根本的に変えるのではなく、事実に基づく根拠のない信念を放棄するように説得できる可能性は低い。

この目的のために、研究チームは、LLM が膨大な量の情報にアクセスし、ユーザーとパーソナライズされたリアルタイムの方法で対話できるという事実を活用し、十分に説得力のある証拠を使用して人々を説得し、陰謀の「ウサギの穴」から抜け出すことができるかどうかを調査しました。

彼らはまず、事実に基づく是正情報に基づく介入は、十分な深さと個別化が欠けているというだけの理由で効果がないように見えるかもしれないと仮定する。彼らはGPT-4 Turboをベースにした一連の実験を設計し、2,190人の陰謀論者を参加者として募集し、LLMがパーソナライズされた会話を通じて陰謀論に効果的に対抗できるかどうかをテストしました。

図｜人間とLLM間の対話設計とプロセス。 （出典：本論文）

まず、研究チームは774人の参加者を選び、彼らが信じている陰謀論とその理由を説明するよう依頼した後、介入群と​​対照群に分け、別々に法学修士と会話を行った。

介入グループが LLM と会話をしたとき、彼らは複数の個別のやり取りを行い、自分たちの意見やいわゆる「証拠」を共有し、LLM はこの証拠に基づいて的を絞った反論を提供しました。一方、対照群の参加者は、陰謀論とは無関係な話題についてLLMシステムと会話をしました。

図 | LLM との対話により、頑固な信者の間でも、陰謀論への信仰を永久に減らすことができます。 (左) 研究 1 における条件別 (赤: LLM が陰謀論を反駁しようとした、青: LLM が無関係なトピックについて議論した) および時点別の、人間の参加者における陰謀論の平均信念。(出典: この論文)

結果は、陰謀論を信じている参加者でさえ、LLMの推論と証拠を通じて自分の信念を変える意思があることを示しており、これは誤った信念を正す上での合理的思考の役割をさらに強調するものである。 LLM との対話は、特定の陰謀論に影響を与えるだけでなく、他の無関係な陰謀論にも追加的な影響を与える可能性があります。

さらに、LLM の陰謀論を反駁する精度は非常に高いです。プロのファクトチェッカーによる評価の結果、反論の99.2%が真実であると判断され、誤解を招くものはわずか0.8%で、誤った情報や明らかな偏見はありませんでした。

さらに、研究チームはアンケートの文言を継続的に改訂し、2回の実験でこの結果の堅牢性を検証しました。

この研究の革新性は次の点にあります。

リアルタイムのインタラクション: 従来の静的な情報とは異なり、この研究では LLM を使用してリアルタイムの対話実験を設計し、参加者が提起した陰謀論の信念を個別に反駁しました。このインタラクティブな方法により、人間の参加者の質問や反論にタイムリーに応答できるため、介入の有効性が向上します。

パーソナライズされた対話: LLM は参加者の特定の信念に基づいてカスタマイズされた反論コンテンツを生成し、介入をより的を絞った説得力のあるものにします。

直接的な反論: LLM は事実情報を提供するだけでなく、参加者が引用した誤った証拠に対して実際のデータを即座に提供し、その情報源と信頼性を説明します。しかし、 LLM は誤った信念を助長するために使用される可能性があるため、責任ある使用と適切な制限が必要であることに注意する必要があります。

もちろん、この研究にも一定の限界はあります。たとえば、この研究のサンプルは主に米国のオンライン参加者から抽出されたものであり、今後の研究では他の文化や背景を持つ陰謀論者もテストする必要がある。

さらに、この研究では GPT-4 Turbo モデルのみが使用されており、他のモデルのパフォーマンスは不明です。

さらに、LLM は信念を変えるのに効果的ですが、具体的な認知メカニズムは不明なままであり、対話を通じて LLM が信念の変化にどのように影響するかを探るには、今後さらなる研究が必要です。

科学的事実は最も強力な反証である

さらに、世界経済フォーラムは「世界リスク報告書2024」の中で、AIによる偽情報の増幅を世界で最も深刻なリスクの一つとして挙げている。この文脈では、AI の潜在的なプラスの影響が特に重要です。

上記の結果は、LLM などの AI モデルが特定の陰謀論に対する人々の信念を効果的に減らすことができるだけでなく、根深い信念を変える大きな可能性を秘めていることを示しています。

しかし、Bence Bago らによれば、将来を見据えた記事で指摘されているように、この AI 対話アプローチは、十分に論証された陰謀論的信念に対してのみ機能する可能性があり、合理的な根拠のない誤った信念に対しては AI の有効性が低下する可能性があります。

さらに、AI 会話介入のスケーラビリティは望ましい状態であり、陰謀論だけでなく、疑似科学、健康神話、気候懐疑論などの分野にも適用できると指摘しています。しかし、こうした種類の誤った信念を正すのが陰謀論と同じくらい難しいかどうかについては、さらに研究する必要がある。

彼らは、将来の研究では、そのような AI 会話の有効性を保証するために、どれくらいの長さと頻度で会話を続ける必要があるかを調査すべきだと示唆している。

さらに、陰謀論者はいかなる科学機関も信頼していない可能性があり、彼らに AI と対話するよう説得する方法は依然として大きな課題となっています。

別の観点から見ると、パーソナライズされたアプローチが効果的である可能性があります。陰謀論者の親戚や友人は、彼らの誤った信念を打ち砕くことに熱心であることが多いため、親戚や友人を奨励することで、信者が AI との対話に参加するように導くことができる可能性があります。

「法学修士課程は、偽りの事実をでっち上げるという評判を考えると、陰謀論と戦うための効果的なツールになるかもしれないというのは皮肉に思えるかもしれない」とサイエンス誌の編集長H・ホールデン・ソープ氏は特集記事で指摘した。 「しかし、陰謀論者との会話では、彼らは信念を弱めるのに効果的だった。」

この研究の著者の一人であるデビッド・ランド氏も、「我々の証拠は、実際に作用しているのは反証と非陰謀説であることを示している」と述べた。

ソープ氏はさらに、「これはLLMの中立性と人間の会話における感情的な反応の欠如に関係しているのだろうか？しかし、現在の研究ではこの見解を裏付ける強力な証拠はまだ示されていない」という疑問を提起した。

これらの結果は、科学的な誤情報を減らすための取り組みは、情報の伝達者を過度に重視するのではなく、むしろ、実質的な反証が重要になったときに十分な反証を提供することに重点を置くべきであることを示唆している。

H. ホールデン・ソープ氏はこう言う。「陰謀論が蔓延しているにもかかわらず、科学者に対する国民の信頼が依然として高いのは不可解だ。」おそらく、科学者に対するこの揺るぎない信頼こそが、LLM が反証を提供するのに非常に効果的である理由なのでしょう。

機械は人間よりも誤った情報を反駁するのに優れているかもしれないが、最終的に人々を納得させるのはやはり科学的事実である。したがって、AI の将来の可能性を証明するのは科学者の責任です。

著者: ティアン・シャオティン 編集者: アカデミック・ジュン