AI に関する興味深い話: ワインのボトルが地球の放浪を「支援」

1. まずは『流転地球』を観てみよう

大東：小白、お正月休みはどうでしたか？

小白：ドン兄さん、休暇中にとても楽しかったと思うことを一言でまとめさせてください！ 「道路は何千もあるが、安全が第一だ。正しい運転をしないと、あなたの大切な人が涙を流すことになる。」

大東：ハハ、『流浪地球』はまさに新年映画のダークホースであり、皆の白熱した議論の的となっている。小白は映画を見て何を得たのだろうか？

小白：董兄さん、正直に言うと、映画の後半はずっと泣いていました。私は理系の学生ですが、この映画に出てくる物理学や天文学の知識の多くはよく理解できませんでした。映画館を出てから、ネットユーザーたちが私に知識を教えてくれたのは初めてでした。中国科学院計算技術研究所の王元卓氏が娘さんのために描いた手描きの説明図がネット上で人気となり、多くの謎を解くのに役立ちました。本当に分かりやすく、映像も鮮明です。

手描きイラストのひとつ

小白：董兄さん、映画に出てくるハンサムな青年のほかに、私が最も興味を持っている登場人物がいます！さらに、私は彼に対して疑念を抱いています。

大東：宇宙ステーションの人工知能執事「モス」のことでしょうか。

小白：董兄さん、私の言うことは分かってますよ。

大東：私は人工知能の分野の専門家ではないので、監督や脚本家のSFデザインについて推測するつもりはありません。かなり知識のある聴衆の観点から、「Moss」に関する質問に答えようと試みることはできますが、最も重要なことは、「Moss」によって引き起こされたネットワーク セキュリティの分野におけるいくつかの考えを議論することです。

2. 「モス」

小白：最後の決定的な瞬間に、モスは木星に火をつけるのは不可能だと信じて、主人公の考えを否定しました。連合政府の関係指導者らがこの試みに協力したいと申し出たにもかかわらず、彼は依然として指示に従うことを拒否した。モスは自分自身を守ろうとしているのでしょうか、それとも彼自身の考えが芽生えているのでしょうか?

映画の中の苔

大東：人工知能やロボットの出現は本質的に不確実です。映画では、ロボット モスのシステムには 2 つの基本的なコマンドがあることがわかります。1 つ目は地球を守ること、2 つ目は宇宙ステーションを守ることです。これら 2 つのコマンドのうち、どちらが Moss にとってより重要だと思いますか?

小白：モスは宇宙ステーションとともに「亡命」することを選んだ。宇宙ステーションには人類文明の全アーカイブがバックアップされており、人間の受精卵も十分にあるため、「宇宙ステーションを守れ」という命令は「地球を守れ」という命令よりもレベルが高いと思います。地球が壊滅的な打撃に遭遇したとき、モスがそれらを奪い去ることは最高レベルの命令であり、最良の選択です。モスは自分自身をよりよく守ることもできるでしょう。

大東：その通りです。このため、イスラエルの科学者が以前同じアイデアを提案したとき、ロボットは噴霧距離を計算し、成功率はゼロであると判断したのです。最終的な成功の結末は、男性主人公が自分自身と宇宙ステーション全体を犠牲にすることによって達成されました。ロボット技術の不確実性は多くの人々の警戒を呼び起こした。人類を守るために、有名なSF作家アシモフは1940年という早い時期に、最も古典的なロボット工学の3原則を提唱しました。興味があれば調べてみてください。

小白：董兄さんがSFの分野で深い研究をしているとは思いませんでした。よく考えてみると、この映画全体は非常に論理的です。

大東：男性主人公がモスを従順にさせて手動制御を取り戻したことを覚えていますか？

小白：もちろん覚えていますよ。モス全体を台無しにしたのは、1本の「違法」ウォッカだった。ドン兄さん、あなたの言いたいことは理解できたようです。これでプロットに関する議論は終わりです。セキュリティに関する議論を始めましょう。

大東：君は本当に賢い子だね。

3. 「苔」が引き起こす思考

Xiaobai: 私の意見では、人工知能は非常に優れたネットワーク セキュリティ ツールですが、諸刃の剣でもあります。

大東：私のセリフを盗んだな。ある専門家のスピーチから一文を借りてみましょう。新しいテクノロジーをセキュリティに使用する場合、2 つの状況があります。1 つは、新しいテクノロジーをセキュリティのサポートに使用する場合です。もちろん、新しいテクノロジーは防御だけでなく攻撃にも使用できます。 2 つ目は、新しいテクノロジー自体が新たなセキュリティ問題をもたらすということです。

ロボット

小白：人工知能を使って警備員の防衛を支援するという話ですが、私の理解は正しいでしょうか？たとえば、普段は北京で働いている従業員が、ある朝突然ニューヨークからログインした場合、それは異常であり、AI はそれが異常であることを認識できます。

大東：それは正しい理解ですが、実際はそれ以上です。人工知能はさまざまな方法でセキュリティに役立ちます。オープンソース コードの潜在的な欠陥を自動的に評価し、パスワードの漏洩や誤用を特定し、潜在的なセキュリティ動作パスを分析するなどが可能です。しかし、それは「攻撃者」にとって宝物でもある。

小白：攻撃といえば、ちょっと怖いですね。攻撃の効率を大幅に向上できるような気がしますが、それについては考えることすらできません。

Dadong: サイバー犯罪者は人工知能の技術を悪用し、さまざまな悪意のあるタスクに利用します。たとえば、開いている脆弱なポートのスキャン、電子メールの自動アセンブリ、さらには 24 時間の盗聴などです。もう 1 つの例としては、スピアフィッシングに自動化を使用したり、リアルタイムの音声合成を利用して攻撃や詐欺をシミュレートしたり、パケット スニッフィングやエクスプロイトなどのアクティビティを大規模に実行したりすることが挙げられます。

小白：テクノロジーに直面するときは、本当に両方の側面から見なければなりません。

大東：まだ話し合っていない点が一つあります。人工知能自体にセキュリティ上の問題があるのでしょうか?

小白：（聞こえないふりをする）。

大東：人工知能自体にはいくつかの脆弱性があります。例えば、混雑した北京第三環状道路で、自動運転車は正しい出口からうまく出ることができるでしょうか?人工知能は安全な距離を保たなければなりませんが、人間は心理戦が得意です。人工知能は人類に潜在的なリスクをもたらす可能性さえある。

Xiaobai: どんなテクノロジーにも潜在的なセキュリティ上の問題はあります。これだけでは技術が良いかどうか判断できません。むしろ、私たちは合理的な判断を下し、テクノロジーが犯罪者にとっての好機とならないように、テクノロジーをもっと有効に活用するための何らかの手段を講じなければなりません。ドン兄弟、そう思いませんか？

大東：なあ、俺に教育してくれてるの？走らないで。私のもとに戻ってきて！あなたに課題があります。今述べたロボット工学の 3 つの古典的な原則についてよく考えて、レビューを書いてください。