あなたを笑顔にするためだけに説得力のある「ディープフェイク」？

リヴァイアサンプレス:

個人的には、ウォルター・シェラー氏は「ディープフェイク」の将来について楽観的すぎると思う。さまざまな有名人の顔を変えるテクニックは、単なる娯楽やパロディーではないこともあります。これらは、ポルノサイトによる技術的処理の対象となることがよくあります。さらに、最近のイスラエルとパレスチナの戦争を見れば、あらゆる種類の悪意のある憎悪に満ちた虚偽の情報が飛び交い、特に視覚的な刺激によって人々の怒りをかき立てようとする偽の写真が飛び交い、これが間違いなく世論を分裂させ、暴力の炎を煽ったことが分かります。

インターネットでは、何が真実なのかをどうやって知るのでしょうか? 2023年春、ペンタゴン付近の爆発の写真（下）がウォール街で小規模なパニックを引き起こし、AI生成画像がインターネット経由で拡散し市場に影響を与えた最初の事例となった。

このデマは検閲されて消えたが、多くの人々にとってそれは今後起こるさらに悪い事態の前兆のように思われた。

この偽の写真には、バージニア州にある米軍本部であるペンタゴンの近くで大量の煙が渦巻いている様子が写っている。 © IAPONOMARENKO/ツイッター

しかし、ノートルダム大学のコンピューター科学者でメディアフォレンジックの専門家であるウォルター・シャイラー氏が学生たちにインターネットでAIによって改ざんされた動画の例を探させたところ、彼らが見つけた結果に驚いたという。それは「終わりのないミーム」のようなものだと彼は言った。

これまでのところ、説得力のあるディープフェイクのほとんどは、経済崩壊を引き起こすためではなく、視聴者を笑顔にするために作られているようだ。手を洗うことについて話している偽のトム・クルーズなどだ。ニコラス・ケイジが彼のすべての映画に出演している。バイデン、トランプ、オバマが一緒にコール オブ デューティをプレイしている。

シェラー氏は、インターネットには確かに偽のコンテンツが溢れているが、その大部分は混乱や破壊ではなく、つながりを築くために設計されているようだと結論付けた。

ウォルター・シェラー。 © グラス・ダークリー・フィルムズ

シェラーとインターネットは共に成長した。ミレニアル世代の年長者である彼は、自分の最初のコンピューターを「非常に原始的なもの」、つまり家族のテレビに接続されたテキサス・インスツルメンツ社のセットトップボックスだったと表現する。中学生の頃、彼はインターネットリレーチャットのハッカーチャンネルに参加し、初期のコンピューターアンダーグラウンドのサイバーパンク反逆者たちと仮想的にコミュニケーションをとるようになりました。彼によると、当時でもハッカーたちは、単に見せびらかす楽しみのために、科学的事実とフィクションを混ぜ合わせるのが大好きだったという。

シェーラー氏は新著『インターネット上のフェイクの歴史』の中で、今日のディープフェイクは、18世紀の風刺からビクトリア朝の心霊写真まで、インターネット以前のパロディや想像力の伝統のデジタル版であるという考えに基づいて理解するのが最も適切であると主張している。

最近の会話の中で、シェーラー氏は、インターネット上での偽情報の蔓延は、社会規範からの急激で恐ろしい逸脱ではなく、神話を創り物語を語りたいという人間の衝動の完全に自然な進化であると認識するようになったと私に語った。

-無害な虚偽情報と危険な虚偽情報をどのように定義するのでしょうか? -

この本を執筆する過程で私がさらに理解するようになったことの一つは、人間のコミュニケーションにおけるパロディと風刺の価値です。これは非常に古い形式の社会批評であり、非常に戦略的に使用されることが多いです。インターネットが登場するずっと前の非常に有名な例として、ジョナサン・スウィフトが 1729 年に書いた「A Modest Proposal」というエッセイがあります。

この記事は人食いや赤ちゃんを食べることについて触れており、確かに不快だが、スウィフトは実際には人食いについて語っているわけではない。彼はアイルランドの貧困に対する社会批判を表現しようとしている（記事では「アイルランドの12万人の赤ん坊のうち10万人を富裕層へのごちそうとして提供する」という提案をしており、そうすれば貧しい親たちの経済的困難が軽減されると考えている。編集者注）。批判的に深く読めば、すぐにつながりがわかり、その主題がダークな意味で興味深いと感じられるかもしれません。もちろん、それがスウィフトの意図したことです。

© オーディブル

しかし、長年にわたって、このエッセイはしばしば誤解されてきました。時々公開朗読会が行われていますが、今でも人々は気が狂います。一体誰が赤ちゃんを食べることを主張できるのでしょうか? ——これは明らかに要点を外しています。

インターネット上のコンテンツの多くはこのようなものです。破壊的な内容が満載で、そのメッセージを理解するには少し考える必要があります。問題は、ソーシャル メディアの情報の流れの性質上、情報の表面的なレベルに留まってしまうことが多く、それが騒動を引き起こす可能性があることです。

-ディープフェイクについてはどうですか?内容は見た目も音も非常に本物らしく、反論どころか見分けるのが難しいほどです。これらに対する懸念も誇張されているのでしょうか?

-はい、これは最近の問題です。ディープフェイクは2017年に初めてインターネットに登場したので、今日では特に新しい技術ではありません。このビデオが政治的な文脈で公開され、選挙の行方を変えたり、政治的暴力を引き起こしたりする可能性があると大きな懸念がある。しかし、何も起こりませんでした。

© ミシガンラジオ

- あなたの本には、1990 年代から 2000 年代初頭のコンピューターアンダーグラウンドについて多く書かれていますね。あなたの話からすると、当時でも人々はオンライン上で事実とフィクションの境界線を曖昧にしていたようですね。ハッカーたちは、噂やジョークだけでなく、技術的な情報も互いに共有します。十代の頃、どうしてこの世界に惹かれたのですか?

-私はずっとコンピューターに興味があったのですが、中学生のとき、友人がハッカーのテキストファイル、つまりハッカーが作った創作雑誌を見つけて、「見てよ、これってすごく面白いよ！」と言いました。そのとき、コンピューターにはまったく別の世界があることに気づきました。

-これらのファイルには何が含まれていますか? 「政府は実際何をしているのか推測してみて下さい」のような陰謀メッセージはありますか？

- それらについては触れますが、ビデオゲームにはチートコードがたくさんあるなど、他にもたくさんあります。しかし、さらに深い話になりますが、企業や政府機関で使用されている Unix オペレーティング システムについて聞いたことがありますか?さて、アクセス方法と使用方法を説明します。次に、創作文のセクションがあります。古典的な陰謀論の物語に加えて、UFO や超常現象に関する、あり得ない話だが読み続けたくなるほど興味深い内容も数多くあります。これらすべてのアイデアをまとめるのは本当にクールだと思います。

© ウィキペディア

- あなた自身、伝説的なハッキング作戦に参加したことがありますか?何か明らかにしたいことはありますか?

- 私の本に出てくるハッカーたちには、すべての功績を認めてもらいたい。当時の私はまだ若かった。

・気になる話があるから。あなたは、2012 年にオンラインで公開された大規模なテキスト ファイルについて書いています。このファイルには、大企業や政府機関を標的とした、何年にもわたる非常に成功した攻撃 (人を刑務所に送る可能性のある、深い侵入による攻撃) が記録されているようです。あなたは、今日に至るまで、誰がその背後にいたのか誰も知らないとコメントしました。あなたの言葉遣いを見ると、それがあなたなのかどうか疑問に思います。

-ノーコメント。

- (笑い) つまり、あなたは明らかに、インターネットは自由でありたいとするアナーキストの考えに賛同しているわけですね。しかし、現在あなたはノートルダム大学で教鞭を執っており、経歴には「カトリックの社会教義に触発された技術開発を提唱」と書かれていますが、反権威主義のハッカーとカトリックの社会思想家という2つを結び付けるのに少し苦労しています。これを説明していただけますか？

-それらの間のつながりはコミュニティのアイデアです。ハッカーは本当に興味深いサブカルチャーです。初めて互いにつながり、永続的な何かを生み出す人々のグループです。彼らはコンピュータセキュリティ業界を創設しました。そしてカトリックの社会教義は、「私たちはどのようにして共同体意識の中で繁栄していくのか？」というものです。共通の利益の概念を確立するにはどうすればよいでしょうか?

ここには重要なつながりがあります。過去を振り返って、今日のインターネットの構築に使用されているアイデアを見てみると、その多くは 1960 年代の有名なメディア理論家、マーシャル・マクルーハンから来ています。彼はカウンターカルチャー運動と密接な関係があったが、多くの人が知らない事実は、彼が敬虔なカトリック教徒だったということだ。

マーシャル・マクルーハン（1911年 - 1980年）は、大学で英文学、文芸批評、コミュニケーション理論を教えたカナダの哲学者、教育者でした。彼は現代のコミュニケーション理論の創始者でもあり、彼の見解はメディアに対する人間の認識に大きな影響を与えました。彼は、「インターネット」という言葉がまだ登場していなかった頃からインターネットの誕生を予言し、「地球村」という用語を初めて採用した人物です。 © パリ・レビュー

-それについては、本当に分かりません。

- 彼はカトリックに改宗し、カトリックの信仰が究極のメディアシステムであると信じていました。いつもコミュニケーションを取っているからですよね？聖人とともに、死者とともに、そしてもちろん神とともに。その考えが、祈りや瞑想といった精神性と結びついて、メディアについての彼の考え方にどのように浸透しているかを見るのは興味深いことです。彼は、情報ネットワークを通じて地球全体を統合するというアイデアに魅了されました。

- 結局、私たちは情報になると彼は書いていませんでしたか?それは一種のオンラインの交わりのようですね。

まったくその通りです。テクノロジーについて考えると、ちょっと神秘的ですよね？それはまったくおかしな考えではないと思います。多くの人々が、特に人工知能を理解しようとする中で、新興技術についてこのように議論しています。たとえば、人工知能には何らかの精神的な側面があるのでしょうか?これには理由があると思います。これらすべての技術は人間の創造の一形態であり、キリスト教では私たちは神と共に創造するよう求められています。神は私たちに創造する能力を与えてくれました。

-つまり、インターネットは人類の集合的想像力の延長だとお考えなのですね。これを市場主導のテクノロジーとして見るのではなく、神話を作るツールとして見ることができます。

あなたは人類学者クロード・レヴィ＝ストロースの、私たちは現実世界、つまり真実の世界と、神話の循環という2つの異なる世界に同時に生きているという考えについて話しました。この概念は、インターネット上の奇妙なものすべてにどのように当てはまるのでしょうか?

-レヴィ＝ストロースの洞察は、想像力は人間の生存に非常に役立つというものでしたが、19世紀と20世紀にはそれが無視されていました。しかし、私たちはまだ物語を作り続けています。さて、これはなぜでしょうか?もしあなたが完全に合理的な人間であれば、人生のあらゆる面を最適化したいと思うでしょう。なぜ物語を語ったり、何かをでっちあげたりして時間を無駄にするのでしょうか?これは効率的ではありません。

特に 21 世紀において、空想が役に立つと考えるのは衝撃的です。私たちはただ働けばいいんじゃないの？しかし、レヴィ＝ストロースは、両方の考え方が重要であり、互いに補完し合うと信じていました。

© ボストン・グローブ

- 興味深いのは、なぜ私たちは、シミュレーションされた仮想世界を構築するために、つまり、オンラインで自分たちの創造物の粗悪なコピーを構築するために、これほど多くの人材を費やすのか疑問に思うかもしれないということです。しかし、あなたの主張は、レヴィ＝ストロースの場合と同様に、インターネットが私たち人間に神話を創造する力を与えているということであるように私には思えます。

おそらく、その魅力は消えたのではなく、インターネットが作り出したこの野生の未開拓の領域に再び忍び寄ってきたのかもしれない。もしそうなら、それらの小さなミームは私たちが考えていた以上に意味があるのでしょうか?

-私はこれを固く信じています。何世紀にもわたる文化を見ると、これは驚くべきことではありません。当社は革新的な新技術を開発し、絶えず「サプライズ、サプライズ」をお届けし、それらを使ってストーリーを伝えています。これはかなり誤解されていると思います。

つまり、インターネットは何のためにあるのでしょうか?多くの人々は今でもこれを情報スーパーハイウェイと呼んでいます。事実を入手し、仕事を成し遂げるためにそこに行くのです。これは 90 年代のドットコム時代の企業誇大宣伝への逆戻りです。しかし、インターネットが本来やろうとしていることは決してそれではありません。それは、私たちの想像力の投影を他の人と共有できる創造的な空間というマクルーハンのビジョンに近いものです。

- これを見ると、私たちはインターネットについて間違った相手と話していたのではないかと思います。テクノロジーの専門家やインターネット政策の専門家と話す代わりに、私たちは精神分析学者、人類学者、神学者など、私たちが語る物語とそれを語る無意識の動機について考えることに重点を置く人々に頼るべきです。ジークムント・フロイトは、オンライン上ではまるで自宅にいるかのように感じるだろう。

-はい、夢について考えてください。つまり、インターネット、特にこれらの創造的な AI テクノロジーを通じて、インターネットは夢のようなものですよね?これらの AI の幻想には、人間の生活のどれだけがコード化されているのでしょうか?この分野ではやるべき興味深い仕事がたくさんあると思うのですが、実際に行われていることはほとんどありません。

-最近読んだもう一つの本は、「復活したディープフェイク」です。 「チャットボット」または亡くなった人のレプリカ。これは緊急に詳細な分析が必要なトピックです。

- はい、人工知能が実際に人々に新たな人生を与えることができるというのは素晴らしいアイデアです。これは古い考え方で、19 世紀後半から 20 世紀初頭に流行した「超常現象写真」に少し似ています。写真家は特殊効果をますます巧みに使いこなすようになってきています。実際、暗室で写真を編集することは可能です。彼らは、フィルムを2度露光すると、2つの異なる画像が得られることを発見しました。つまり、誰かにポートレートを撮ってもらい、同じネガをその人の行方不明の親戚の古い写真に露光すると、2 回目の露光で幽霊のような幻影が現れるのです。

© 国立科学メディア博物館

基本的に、人々はディープフェイクで同じようなことをやっているんですよね？人は亡くなった愛する人々と連絡を取り続けたいという衝動にかられる。マクルーハンはこれにかなり満足しただろうと思う。

- インターネット上の何かが本物か偽物かを尋ねることは無関係であるように思えました。不道徳な行為を容認しているわけではありません。しかし、あなたの主な論点の 1 つは、オンラインの誤情報は私たち自身について何かを教えてくれるため、隠すよりも明らかにすることが多いということです。彼らはどんなメッセージを伝えているのでしょうか?

-これは多くの社会科学者が探している大きな疑問です。つまり、現象全体を要約する一般的な説明です。しかし、結局のところ、それは単なる物語の語りなのです。人々はただ他の人々との何らかのつながりを望んでいるだけなのです。これらのメディア オブジェクトの多くは、対人関係のやり取りを目的としています。皆さんと共有したいことがあるように、私や私のコミュニティについて皆さんに知ってもらいたいことがあるのです。

アン・ストレインシャンプス著

翻訳者：tamiya2

校正/時間

オリジナル記事/nautil.us/stop-worrying-about-deepfakes-470212/

この記事はクリエイティブ・コモンズ・ライセンス（BY-NC）に基づいており、tamiya2によってLeviathanに掲載されています。

この記事は著者の見解を反映したものであり、必ずしもリヴァイアサンの立場を代表するものではありません。