情報操作を避けられない、人間の脳は時代遅れなのか？丨Unroll

人間はなぜ、確固たる証拠もないのに、明らかなナンセンスを信じてしまうのでしょうか?明らかな証拠があるのに、なぜ非合理的な信念を簡単に受け入れてしまうのでしょうか?その答えの一部は、私たちの脳が何百万年もかけて進化し、私たちの命を脅かす可能性のある不確実性について迅速な判断を下せるようになったことにあるのかもしれない。

この記事は「サイコロを振るのは誰か：不確実な数学」（人民郵政通信出版、2022年7月版）からの抜粋です。タイトルは編集者によって追加され、一部は削除されています。

イアン・スチュワート

翻訳 |何勝

脳機能の多くの側面は、何らかの意思決定として考えることができます。私たちが外の世界を観察するとき、視覚システムは、見た物体を識別し、その物体がどのようなものか推測し、その脅威や利益の可能性を評価し、その評価に基づいて行動できるようにする必要があります。心理学者、行動科学者、人工知能研究者は、いくつかの重要な点において、脳はベイズ決定マシンによく似ていることに同意しています。それは、一時的または永続的に脳の構造に組み込まれた世界についての信念を具体化したものであって、ベイズ確率モデルに現れる結果と非常によく似た決定を脳に下させます (先ほど、確率に関する私たちの直感は往々にして非常に貧弱であると述べました。これは、ここで述べられていることと矛盾しません。なぜなら、これらの確率モデルの内部の仕組みは意識的にアクセスできないからです)。

脳がベイズ的であるという見方は、人間が不確実性にどのように反応するかという他の多くの特徴を説明します。特に、迷信がなぜそれほど簡単に根付くのかを説明するのに役立ちます。ベイズ統計は主に確率がどの程度信念であるかを説明します。確率を 50-50 と評価する場合、実際に言っているのは、それを信じる意志と、それを信じたくない意志が同じくらいあるということです。したがって、私たちの脳は世界についての信念を具体化するように進化しており、これらの信念は一時的または永続的に脳の構造に組み込まれています。

このように機能するのは人間の脳だけではありません。私たちの脳の構造は、哺乳類や爬虫類を含む進化上の祖先まで遠い過去にまで遡ることができます。それらの生物の脳もまた「信念」を体現している。これは、「鏡を割ると 7 年間の不運が訪れる」といった、今日私たちが口にする類の信仰ではありません。また、これは人類自身の脳の信念のほとんどにも当てはまりません。つまり、「舌をこのように突き出すと、ハエを捕まえやすくなる」といった信念が、関連する筋肉を活性化する脳の領域に書き込まれるのです。人間の言語は信念にさらなる層を加え、信念を表現すること、そしてさらに重要なことに、信念を他の人に伝えることを可能にします。

シンプルでありながら有益なモデルを構築するために、脳内に多くのニューロンを含む領域があると仮定します。これらは、「接続強度」を持つシナプスを介して接続できます。ニューロンの中には弱い信号を送るものもあれば、強い信号を送るものもあり、また、まったく存在せず、信号を送らないニューロンもあります。信号が強くなるほど、それを受信するニューロンの反応も大きくなります。強度を数値で表現することもできます。これは数学モデルを指定するときに便利です。単位によっては、弱い接続の強度は 0.2、強い接続の強度は 3.5、存在しない接続の強度は 0 になることがあります。

ニューロンが入力信号に反応すると、その電気的状態が急速に変化し、「発火」します。これにより、他のニューロンに伝達できる電気インパルスが生成され、どのニューロンに伝達されるかはネットワークの接続によって決まります。ニューロンは、入力信号によって状態が特定のしきい値を超えると発火します。さらに、信号には、ニューロンを発火させる興奮性と、ニューロンの発火を止める抑制性の 2 種類があります。ニューロンは、入力信号の強度を合計し、興奮信号は正、抑制信号は負になるように計算し、合計が十分に大きい場合にのみニューロンが興奮するように計算します。

新生児の脳では、多くのニューロンがランダムに接続されていますが、時間の経過とともに特定のシナプスの強度が変化します。いくつかのシナプスは完全に除去される可能性があり、いくつかの新しいシナプスが成長する可能性もあります。ドナルド・ヘブは、ニューラル ネットワークにおける「学習」のパターンを発見しました。これは現在、ヘブ学習と呼ばれています。 「同時に発火する神経細胞は一緒に配線される」ということは、2 つのニューロンがほぼ同時に発火すると、それらの間の接続の強度が増すことを意味します。ベイズの信念の文脈では、接続の強さは、1 つのニューロンが発火すると他のニューロンも発火するはずだという脳の信念を表します。ヘブビアン学習は脳内の信念構造を強化します。

心理学者は、人々が新しい情報を与えられたとき、それを単に頭の中で記憶するだけではないということを発見しました。進化論の観点から見ると、言われたことをすべて信じるのは良い考えではないため、これは悲惨な結果をもたらすでしょう。人々は、通常、他人を支配するために、他人を誤解させようとして嘘をつきます。自然は嘘をつくこともあり、よく分析してみると、ぶら下がっているヒョウの尻尾は、ぶら下がっている蔓や果実で、ナナフシが枝のふりをしているだけなのかもしれません。したがって、私たちは新しい情報を受け取ったとき、それを既存の信念に基づいて評価します。十分に賢ければ、情報の信頼性を評価するでしょう。情報源が信頼できるものであれば、私たちはそれを信じる可能性が高くなります。情報源が信頼できない場合、私たちはそれを信じる可能性が低くなります。新しい情報を受け入れてそれに応じて信念を変えるかどうかは、私たちがすでに信じていること、それらと新しい情報とのつながり、新しい情報の信憑性に対する信頼度などの要素を内面で検討した結果です。この比較は無意識のうちに行われることが多いですが、情報について意識的に推論を行うこともできます。

ボトムアップの説明では、複雑なニューロンの配列がすべて発火し、互いに信号を送信しているという状況が起こります。これらの信号が互いに打ち消し合うか、または互いに強化し合うかによって、新しい情報が受け入れられるかどうかが決まり、それに応じて接続の強さも変化します。これは、たとえ他の誰にとっても証拠が圧倒的に見えても、「真の信者」に彼らが間違っていることを納得させることが非常に難しい理由をすでに説明しています。もし誰かがUFOの存在を強く信じていて、米国政府が、UFOの目撃は実は気球実験だったと説明するニュース記事を発表した場合、その人のベイジアン脳は、ほぼ確実にこの説明をプロパガンダと解釈するだろう。このニュースは、この問題に関して米国政府を信用していないという彼らの信念を強める可能性が高く、彼らは政府の嘘を信じなくて良かったと思うだろう。信仰は双方向に働くため、独立した検証がない場合には、UFO を信じない人々がこの説明を事実として受け入れ、この情報によって UFO を信じないという信念が強化されることが多いのです。彼らは、UFO が存在すると信じるほど騙されやすくなかったことに感謝するだろう。

人間の文化と言語は、信念体系をある脳から別の脳に移すことを可能にします。このプロセスは正確でも信頼性もありませんが、機能します。さまざまな信念やプロセスを研究する人々に応じて、「プロセス」の名前は「教育」、「洗脳」、「子供を良い人間に育てる」などになります。子供の脳は可塑性があり、証拠を評価する能力はまだ発達中です。サンタクロース、歯の妖精、イースターバニーを考えてみてください。子供は賢いですが、多くの子供は報酬を得るために「行動」しなければならないことを知っています。 「子供を7歳まで訓練すれば、一生その子を育てられる」という格言があります。これには 2 つの意味があります。1 つは、子供の頃に学んだことが最も長く続くということです。もう 1 つは、子供を特定の信念体系に触れさせることで、大人になってもそれを覚えておくようになるというものです。どちらも正しいのかもしれませんし、ある観点から見ると同じかもしれません。

ベイズ脳理論は多くの科学分野にそのルーツを持っています。明らかなベイズ統計に加えて、機械知能や心理学も含まれます。 1860 年代、人間の知覚に関する物理学と心理学の先駆者であるヘルマン・ヘルムホルツは、脳が外界の確率モデルを構築することによって認知を組織化すると提唱しました。 1983年、人工知能の分野で働いていたジェフリー・ヒントンは、人間の脳は外界を観察する際に遭遇する不確実性について判断を下す機械であると提唱しました。 1990 年代に、このアイデアは確率論に基づく数学モデルとなり、ヘルムホルツ マシンの概念も含まれるようになりました。これは機械的な装置ではなく、数学的にモデル化された 2 つの「ニューロン」ネットワークで構成される数学的抽象概念です。 1 つはボトムアップ認識ネットワークであり、実際のデータをトレーニング オブジェクトとして使用し、潜在変数のセットによって表されます。もう 1 つは、これらの潜在変数の値を生成してデータを取得するトップダウンの「生成」ネットワークです。トレーニング プロセスでは、学習アルゴリズムを使用して 2 つのネットワークの構造を変更し、データを正確に分類できるようにします。これら 2 つのネットワークは順番に変更され、プロセス全体はウェイク スリープ アルゴリズムと呼ばれます。

「ディープラーニング」は類似構造の層をさらに重ねたもので、人工知能の分野でかなりの成功を収めています。その応用としては、コンピューターによる自然言語の認識や、中国の囲碁ゲームにおけるコンピューターの勝利などがあります。これまで、コンピューターとチェッカーをプレイすると、完璧なプレイをしても必ず引き分けになることが証明されていました。 1996年、IBMのディープ・ブルーはチェスのグランドマスターで世界チャンピオンのガルリ・カスパロフに挑戦したが、6ゲームの試合で4対2で負けた。大幅な改善を経て、Deep Blue は次のゲームで勝利しました。

勝つ。しかし、これらのプログラムは、囲碁で勝つために使用される人工知能アルゴリズムではなく、ブルートフォースアルゴリズムを使用します。

囲碁は2,500年以上前に中国で生まれました。 19×19のボードでプレイするゲームです。表面的には単純に見えますが、実際には理解不能です。 2 人のプレイヤーはそれぞれ黒と白の駒を持ち、交代で盤上に駒を配置し、相手の駒を囲んで捕獲します。より広い領土を囲んだ者が勝利する。囲碁の数学的分析は非常に限られています。デビッド・ベンソンは、相手がどのように駒を動かしても、どのような状況であれば駒が囲まれないかを判断できるアルゴリズムを発明しました。エルウィン・バーレカンプとデビッド・ウルフは、チェスのゲーム終了時に盤上の多くの位置が占有され、可能な動きが通常よりも不確実になる状況の複雑な数学を分析します。その段階では、ゲームは実際にはほぼ独立したいくつかのエリアに分割されており、プレイヤーは次にどこで行動するかを決定する必要があります。彼らの数学的スキルは、各位置を値、またはより深い構造にリンクし、これらの値を組み合わせて勝利のためのいくつかのルールを提供します。

2015年、GoogleのDeepMindは、盤面の状況の優位性を判断する価値ネットワークと、次の動きを判断する戦略ネットワークという2つのディープラーニングネットワークに基づいた囲碁アルゴリズムAlphaGoをテストしました。これらのネットワークは、人間の専門家間およびアルゴリズム間で行われるチェス ゲームを使用してトレーニングされます。その後、AlphaGoはトッププロ囲碁プレイヤーのイ・セドルと対戦し、4対1で勝利した。プログラマーたちは、AlphaGo がゲームに負けた理由を突き止め、戦略を修正しました。 2017年、AlphaGoは世界ランキング1位の柯潔を3ゲームマッチで破った。 AlphaGo の「プレイスタイル」には、ディープラーニング アルゴリズムが人間の脳のように機能する必要がないことを示す興味深い特徴があります。多くの場合、人間のプレイヤーが決して考慮しない位置に駒を配置し、最終的に勝利します。柯潔氏は「人類は何千年にもわたる実践を通じて進化してきたが、コンピューターは我々が皆間違っていると教えてくれる。囲碁の真実に近づいた者は誰もいないと思う」と語った。

AI が人間の知能と同じように機能するというのは論理的に意味をなさないため、「人工的」という形容詞を使用する理由の 1 つです。しかし、電子回路によって具現化されたこれらの数学的構造は、神経科学者によって開発された脳の認知モデルといくつかの類似点を持っています。このように、AI と認知科学の間には創造的なフィードバック ループが生まれ、それぞれが相手のアイデアを基に構築されています。時々、ある程度まで、人間の脳と人工脳は同様の構造原理を使用して機能しているように見えます。しかし、それらを構成する材料や信号の処理方法に関しては、もちろん大きく異なります。

私たちのほとんどは、「私はどこにいるのだろう？」という不安を経験したことがあるでしょう。私たちの人生のある時点で。 2005年、神経科学者のエドヴァルド・モーザーとメイブリット・モーザーとその学生たちは、マウスの脳内にグリッド細胞と呼ばれる特殊なタイプのニューロンがあり、それが空間内でのマウスの位置をモデル化していることを発見しました。グリッド細胞は、やや発音しにくい名前を持つ脳の領域、つまり背尾側嗅内皮質に位置しています。位置とメモリのコア処理ユニットです。視覚皮質と同様に、異なる層に異なる興奮パターンを持つ層状構造を持っています。

科学者たちはマウスの脳に電極を埋め込み、マウスが広い空間で自由に動くことを許可した。マウスが動くと、マウスの脳内のどの細胞が興奮するかが監視されました。マウスが多数の小さな空間領域（「興奮ゾーン」）の 1 つにいるときは常に、特定の細胞が発火することが判明しました。これらの小さな領域は六角形のグリッドを形成します。研究者たちは、これらのニューロンが空間の精神的表現、つまりマウスの脳に現在位置を伝えるある種の座標系における認知マップを構築すると理論づけている。動物が移動すると、グリッド セルのアクティビティが常に更新されます。マウスがどの方向に歩いても、一部の細胞は常に発火します。他の人は方向と関連づけられ、それに反応します。

グリッド細胞がどのようにしてマウスに自分の位置を知らせるのかはまだ明らかではない。興味深いことに、マウスの脳内のグリッド細胞の幾何学的配置は不規則です。これらのグリッド セルの層は、マウスが動き回る際の小さな動きを統合することで、マウスの位置を何らかの方法で「計算」します。数学的には、このプロセスはベクトル計算によって実現できます。ベクトル計算では、大きさと方向を持つ多数の小さな変化を加算することで、移動する物体の位置が得られます。より優れた航海機器が発明される前は、船員は基本的にこの「推測航法」法を使って航海していました。

完全な暗闇でも発火パターンは変化しないため、グリッド細胞のネットワークは視覚的な入力がなくても機能できることがわかっています。ただし、視覚的な入力に対しては非常に反応します。たとえば、壁に参照点として役立つカードが置かれた円筒形のケージの中でマウスが走っているとします。特定のグリッドニューロンを選択し、対応する空間パッチのグリッドを測定します。次にシリンダーを回転させて再度測定すると、グリッドも同じように回転します。マウスを新しい環境に置いた後、グリッドもその間隔も変化しませんでした。グリッド セルがどのように位置を計算するかに関係なく、システム全体は堅牢なままです。

2018 年、アンドレア・バニーノ氏とその同僚は、ディープラーニング ネットワークを使用して同様のナビゲーション タスクを実行する方法を発表しました。彼らのネットワークには多くのフィードバック ループがあります。これは、ナビゲーションが、1 つの処理ステップの出力を次のステップの入力として受け取ることに依存しているように見えるためです。しかし、実際には、これは、反復関数としてのネットワークを持つ離散的な動的システムです。研究者たちは、ネズミやマウスなどさまざまなげっ歯類が餌を探すときにたどる経路を使い、脳の他の部分がグリッドニューロンに送る可能性のある情報を補足してネットワークを訓練した。

ネットワークはさまざまな環境で効果的にナビゲートすることを学習し、パフォーマンスを損なうことなく学習内容を新しい環境に転送できます。研究チームは、特定の目標を設定してテストし、さらに高度な環境での迷路を進む能力もテストしました (セットアップ全体がコンピューター上でシミュレートされました)。彼らはベイズ法を使用して統計的有意性を評価し、データを 3 つの異なる正規分布の混合に適合させました。

注目すべき結論の 1 つは、学習プロセスが深まるにつれて、ディープラーニング ネットワークの中間層がグリッド ニューロンと同様の活動を展開し、つまり、動物が小さな空間ブロックで構成されたグリッドの特定の領域にいるときに興奮するという点です。ネットワーク構造の詳細な数学的分析により、それがある種のシミュレートされたベクトルコンピューティングであることが示されました。ネットワークがベクトルを書き留めて、数学者のようにそれらを合計すると想定する理由はありません。それにもかかわらず、彼らの結果は、グリッド細胞がベクトルベースのナビゲーションに不可欠であるという理論を裏付けています。

より一般的には、脳が外界を理解するために使用する「回路」は、ある程度その外界を模倣するように設計されています。脳の構造は、私たちの周囲の情報に「接続」するために何十万年もかけて進化してきました。ご存知のように、接続構造を「最適化」することを学習しながら、より短い時間で変化します。私たちが学ぶことは教育によって制限されます。したがって、私たちが幼いころから特定の信念を教え込まれると、それは私たちの脳に根付いてしまいます。これは、上記の格言の神経科学的検証と見ることができます。

したがって、成長環境は文化的信念を強く制約します。私たちは、知っている賛美歌、応援するチーム、演奏する音楽を通して、世界における自分の位置や周囲の人々との関係を認識します。私たちのほとんどにとって、脳に刻み込まれた「信念」は、証拠を用いて合理的に議論できるものとそれほど変わりません。しかし、この 2 つの違いを認識しなければ、証拠に裏付けられていない信念は問題となる可能性が高くなります。残念なことに、これらの信念は私たちの文化において非常に重要であり、それが根強く残っている理由の 1 つです。証拠ではなく信仰に基づく信念は、「私たち」と「彼ら」を区別するのに効果的です。はい、私たちは皆、2 + 2 = 4 であると「信じている」ので、あなたも私も何ら変わりません。でも、毎週水曜日に猫の女神に祈るんですか？そんなことはしないと思いますよ。あなたは「私たち」の一員ではありません。

この方法は、私たちが少人数のグループで生活していたときにはうまくいきました。なぜなら、私たちが会うほとんどの人が猫の女神に祈りを捧げ、そうしない人はおそらく警告されて近寄らなかったからです。しかし、この行動が単純に民族集団にまで及ぶと、紛争を引き起こし、暴力につながることも少なくありません。今日のつながりのある世界では、それは大きな災害になりつつあります。

今日、ポピュリスト政治では、かつて「嘘」や「プロパガンダ」と呼ばれていたものを説明するために「フェイクニュース」という新しい用語を使用しています。本当のニュースと偽のニュースを区別することがますます難しくなってきています。数百ドルの余裕があれば、誰でも膨大な計算能力にアクセスできます。高度なソフトウェアの普及により世界は民主化しており、これは原則的には良いことですが、真実と嘘を区別することがより複雑になることも少なくありません。

ユーザーは表示される情報をカスタマイズして自分の好みを強化できるため、聞きたいニュースだけが得られる情報バブルの中で生活することがますます容易になっています。チャイナ・ミエヴィルは、ベテル殺人課のボルロット警部が殺人犯を捜査するSF犯罪シリーズ『ザ・タウン・アンド・ザ・タウン』でこの傾向を誇張している。彼は、警察と協力するため、姉妹都市であるエルコマ市まで何度も市境を越えて出向いた。シリーズのスタイルは、最初はベルリンの壁が崩壊する前のベルリンに少し似ていて、当時は都市が東と西の2つの部分に分かれていましたが、徐々に、都市の2つの部分が地理的な空間で同じであることがわかります。各都市の住民は、互いの建物や人混みの中を移動しているときでさえ、生まれたときから互いを無視するように訓練されています。今日、インターネット上の私たちの多くも同じことをしています。彼らは確証バイアスに取り憑かれており、受け取るすべての情報が自分たちが正しいという考えを強化するのです。

なぜ私たちはフェイクニュースに簡単に操られてしまうのでしょうか？これは、古き良きベイジアン脳が具体的な信念に基づいているためです。私たちの信念は、マウスをクリックするだけで削除したり置き換えたりできるコンピューター内のファイルのようなものではありません。それらは、互いに接続されたハードウェアのようなものです。接続パターンを変更するのは困難です。何かを信じれば信じるほど、あるいは信じようとすればするほど、それを変えるのは難しくなります。私たちが信じるあらゆるフェイクニュースは、私たちのニーズを満たすため、こうしたつながりを強化します。私たちが信じたくないニュースはすべて無視されました。

このような状況を避ける良い方法は知りません。教育？子どもが特定の信念を推進する特別な学校に通うとどうなるでしょうか?事実は明らかだが信念と矛盾する科目の教育が禁止されたらどうなるでしょうか?科学は、人間の発明品の中で、事実とフィクションを区別する最も優れた方法ですが、政府が研究資金を削減することでこれらの不都合な事実に対処すると決めたら、何が起こるでしょうか?米国では、銃の権利の影響を合法的に調査するために連邦資金を使用することはできなくなり、トランプ政権は気候変動についても同様のことを検討している。

皆さん、事実は消え去っていません。

一つの提案は、新しい監督者が必要だということです。しかし、無神論者が信頼するウェブサイトは真の信者にとっては忌み嫌われるものであり、その逆もまた同様です。私たちが信頼しているウェブサイトを悪徳企業が支配したらどうなるでしょうか?これは新しい問題ではありません。ローマの詩人ユウェナリスが西暦 100 年頃に書いた風刺詩の中で述べているように、監視者を監視するのは誰か?モニター自体を監視するのは誰ですか?しかし、今日私たちが直面している問題は、1 つのツイートが地球全体に届く可能性があるため、さらに深刻です。

私は悲観的すぎるのかもしれない。一般的に、より良い教育を受けると人々はより合理的になります。ベイジアン脳の「手っ取り早くて汚い」生存アルゴリズムは、私たちが洞窟やジャングルに住んでいたときには役立ちました。しかし、誤情報が蔓延する時代においては、それはもはや意味をなさないかもしれない。

著者について

イアン・スチュワートは、英国ウォーリック大学の数学の名誉教授であり、王立協会の会員です。彼は、ロンドン王立協会からファラデー賞、アメリカ科学振興協会から「科学技術に対する国民の理解賞」、ロンドン数学会および英国数学応用科学研究所から「ゼーマン賞」を受賞しています。

特別なヒント

1. 「Fanpu」WeChatパブリックアカウントのメニューの下部にある「特集コラム」に移動して、さまざまなトピックに関する人気の科学記事シリーズを読んでください。

2. 「Fanpu」では月別に記事を検索する機能を提供しています。公式アカウントをフォローし、「1903」などの4桁の年+月を返信すると、2019年3月の記事インデックスなどが表示されます。

著作権に関する声明: 個人がこの記事を転送することは歓迎しますが、いかなる形式のメディアや組織も許可なくこの記事を転載または抜粋することは許可されていません。転載許可については、「Fanpu」WeChatパブリックアカウントの舞台裏までお問い合わせください。

この記事の表紙画像は著作権ライブラリからのものであり、複製は許可されていません。