「百聞は一見に如かず」の時代が到来した。 AIによる顔変換を利用したオンライン詐欺に注意

人工知能 (AI) 技術の急速な発展により、AI はさまざまな産業に力を与える一方で、前例のないセキュリティ上の課題ももたらしています。 AIはさまざまな情報処理を支援し、業務効率を向上させる一方で、サイバー攻撃やデータ漏洩などのセキュリティリスクも高まっています。過剰な収集、差別的なアルゴリズム、ディープフェイクの悪用などの問題は、社会経済の運営に大きなリスクをもたらす可能性が高くなります。最近では、AI技術を利用して他人の顔や声を合成し、非常にリアルな合成画像を作成し、新しいタイプのオンライン詐欺を働く犯罪者も現れ始めています。 AI が詐欺を犯すためのツールになると、この種のハイテク詐欺は防御するのが難しくなり、短期間で被害者に多大な損失をもたらすことになります。

「AIによる顔変え」が悪用されている。テクノロジーは犯罪者の共犯者になってはならない

AIがパンドラの箱を開ける

ここ2年間で、ChatGPT、Wenxin Yiyan、Soraなどに代表される生成型人工知能製品が爆発的に普及しました。複雑なアルゴリズム、モデル、ルールに基づいて大規模なデータセットから学習し、新しいオリジナルコンテンツを作成するという技術的特徴は、テクノロジーに対する人間の想像力を完全に覆しました。

AI技術の継続的な進歩により、情報処理とインタラクションにおけるその優位性がますます顕著になり、生成されるコンテンツのリアリティと効率性がますます高まり、「偽物が本物と間違われる」という現象がますます一般的になっています。しかし、効果的な監督と制約が欠如しているため、悪用されたり、詐欺に使用されたりする可能性がないわけではありません。犯罪グループは、生成型 AI チャットボットを使用してオンライン詐欺を実行し始めており、違法行為に「技術的な隠れ蓑」を与えています。 AI技術は静かに「パンドラの箱」を開けてしまった。

少し前、四川省綿陽市の王さんは突然、監督部門のリーダーからビデオ通話を受け、友人が王さんの会社の口座から40万元以上を借りたいと言っていると言われた。王氏はリーダーを信頼し、ビデオチャットで身元が確認されたため、すぐに40万元以上を指定口座に振り込んだが、後に騙されていたことが判明した。実際、詐欺師はインテリジェントな AI 顔変換およびナレーション技術を使用してリーダーのふりをして詐欺を働いていました。

香港警察は今年2月、総額2億香港ドルに及ぶAIによる「複数人の顔を変える」詐欺事件を公表した。このケースでは、多国籍企業の香港支社の従業員が、本社の最高財務責任者が開始した複数人でのビデオ会議に参加するよう招待されました。彼は要求に従い、2億香港ドルを5つの現地銀行口座に数回にわたって送金した。彼は後に本部に問い合わせ、詐欺にあったことに気づいた。警察の捜査により、この事件では、いわゆるビデオ会議において被害者のみが「実在の人物」であり、残りのいわゆる参加者は全員、AIによって顔を変えられた詐欺師たちであったことが明らかになった。

「AI顔変換」技術では誰もが被害者になる可能性がある

技術的に難しくない

AI技術の普及により、仮想と現実の境界が曖昧になり、真実の情報と虚偽の情報を見分けることがより困難になっています。さまざまな事例の発生は、AI 詐欺がもはや私たちにとって遠い存在ではないことを示しています。犯罪者は通常、顔を変えて親戚、友人、同僚などになりすまし、被害者から金銭を要求します。ビデオによる方法は信憑性が高いと思われ、被害者の警戒を緩めてしまいます。このような環境では、一般の人々だけでなく、専門機関も詐欺の被害に遭う可能性があります。

実際、AI による顔の変更の背後にある技術的なロジックは複雑ではありません。このプロセスには主に、顔の認識と追跡、顔の特徴の抽出、顔の変換と融合、背景環境のレンダリング、画像と音声の合成などのいくつかの重要なステップが含まれます。

入力された情報が詳細であればあるほど、デジタル画像はより正確になります。その中核には 3 つの部分があります。まず、ディープラーニング アルゴリズムを使用してビデオ内の顔画像を正確に識別し、目、鼻、口などの顔の主要な特徴を抽出します。次に、これらの特徴を対象の顔画像と一致、置換、融合します。最後に、背景環境をレンダリングし、合成サウンドを追加して、非常にリアルな偽の「顔を変える」ビデオを生成します。

インターネットで検索すると、エンターテイメントの名を冠し、24時間体制のサービスを提供すると主張する、いわゆる「顔を変えるソフトウェア会社」が多数見つかります。現在、「顔を出して話す」ビデオの制作コストは数十元程度と低いことが分かっている。ビデオを生成するには、正面からの写真を提供するだけで済みます。目、口、頭が動くだけでなく、テキストを入力すると唇の動きも連動します。一晩で完了できます。写真を使って1分間のビデオを制作するのにかかる費用はたった30元程度だと主張する企業もある。ビデオが短く、品質要件が高くない場合は、ビデオ 1 本あたり数ドルを請求することもできます。

人工知能技術の諸刃の剣としての性質は、社会のあらゆる分野でネットワークセキュリティに関する深い反省を引き起こした。

私たちは何をすべきでしょうか?

この状況は、人工知能技術の諸刃の剣としての性質を浮き彫りにし、ネットワークセキュリティとAI監視について社会のあらゆる分野で深い反省を促しました。新たな技術の進歩に直面して、私たちはそれに適応するための新たな規制システムを確立しなければなりません。

「百聞は一見に如かず」の時代において、人工知能技術がもたらす利便性をいかにして十分に享受しつつ、安全リスクを効果的に防止するかが、人類が未来の技術を受け入れるための鍵であり、関連法の継続的な改善の方向と原動力でもあります。

防御が難しい AI 詐欺の罠が、法執行機関による取り締まりの焦点となるでしょう。関連する違法・犯罪行為を正確に特定し、効果的に防止し、包括的に取り締まるには、立法、法執行、司法の体系的な調整と革新的な改善が必要です。そのため、政府はAI技術の利用範囲や限界、違法行為に対する法的責任などを明確にするため、関連法規制を策定・整備する必要がある。昨年、我が国は「生成型人工知能サービスの管理に関する暫定措置」を発行し、個人情報保護の義務を明確化しました。これは良いスタートです。

法的考慮に加えて、公衆教育と意識向上も重要です。 AI 技術を活用した新たな詐欺に直面して、一般の人々は警戒を強め、予防策を強化し、個人情報のセキュリティの第一の責任者となる必要があります。

個人情報保護の意識を強化し、情報漏洩を防止します。顔や指紋などの個人の生体認証情報を他人に簡単に提供しないでください。身分証明書、銀行カード、認証コードなどの情報を簡単に開示しないでください。利便性を優先して、ID カードや銀行カードの写真を携帯電話に直接保存しないでください。見慣れないリンクをクリックしたり、知らない QR コードを勝手にスキャンしたりしないでください。自分の友人サークルを管理し、知らない人との携帯電話の画面共有を簡単に有効にしないでください。あまり使用しないアプリの場合は、アンインストールする前に個人アカウントをキャンセルすることをお勧めします。

AI時代においては、テキスト、音声、画像、動画のすべてが高度に合成される可能性があります。送金や資金取引などの一般的なシナリオでは、検証なしの単一の通信チャネルを介して直接送金しないでください。テクノロジーが高度に発達したこの時代においても、私たちは、相手の携帯電話番号に折り返し電話をかけるなど、追加の通信手段を通じて再度確認するという、技術的に最も進歩していない提案をしています。