AIによる顔の改変を利用して人を騙すというトリックをどうやって破るか？

テクノロジーの継続的な進歩により

AIの応用シナリオはますます多様化している

「ワンクリックフェイスチェンジ」でお気に入りのアイドルと写真が撮れる

AI技術により、おじさんが数秒でロリータ女王に変身

「AIステファニー・サン」はデビューと同時に人気に

…

AIはかつて私たちから遠く離れた存在だった

今やそれは急速に一般大衆の生活に入り込んでいる

注目すべきは

詐欺師はAI技術も狙っている

「真偽の孫悟空」をプレイするのに使用します

ビデオチャットの相手は私ではないかもしれません

最近

包頭警察はAIを使った通信詐欺の典型例を発表した

友人が突然ビデオ通話で私に電話をかけてきた

福州の郭さんは容姿と声を確認してもまだ騙されていた

10分で430万元が詐取される

詐欺師は、AIによる顔変換と擬音技術を使用していたことが判明した。

友人のふりをして詐欺に遭った

幸いなことに

警報を受けた後、福州と包頭の警察と銀行はすぐに支払い停止メカニズムを作動させた。

336万8400元の支払い停止に成功

事件が明らかになった後

「AI詐欺が全国で発生」という話題が人気検索に

ネットユーザーから大きな注目を集めた

一般的なAI詐欺の手口

AI詐欺を防ぐ方法

では、AI による顔を変える詐欺に対処する方法はないのでしょうか?

AI時代においては、見たり聞いたりしたことが必ずしも真実であるとは限らず、混乱が大きく増大します。 AI テクノロジーをルーチンとスクリプトの解釈と組み合わせて使用​​することで、この種の詐欺を防ぐことができます。

詐欺は常に非常に狡猾ですが、その防止は常に非常に冒険的です。

AIの「暴走」を防ぐためには、まず監督体制を整える必要がある

明確にする必要があるのは、AI による顔の改変は新しいものであるものの、「規制上のギャップ」や「頼れる法律がない」ということはないということです。

技術手段がますます進化するAI詐欺事件に対応するため、中国サイバースペース管理局、工業情報化部、公安部は2022年11月25日に共同で「インターネット情報サービスのディープシンセシス管理に関する規則」（以下、「規則」）を発行し、2023年1月10日に施行される。この規則では、ディープシンセシスサービスプロバイダーに対し、自社のサービスを使用して生成または編集された情報コンテンツの使用に影響を与えない識別情報を追加することを義務付けている。インテリジェントな対話、合成音声、顔生成、没入型シミュレーションシーンなど、情報コンテンツの機能を生成または大幅に変更するサービスは、一般の人々の混乱や誤解を避けるために明確にマークする必要があります。いかなる組織または個人も、技術的な手段を使用して関連する識別情報を削除、改ざん、または隠蔽してはならないものとします。

今年4月11日、中国サイバースペース管理局は「生成型人工知能サービスの管理に関する規則」（意見募集草案）を起草し、AIコンテンツは真実かつ正確でなければならないと提案した。また、個人情報、プライバシー、企業秘密を不正に取得、開示、利用することは禁止されていることも明記しました。

【親切なアドバイス】

AIによる「顔を変える」ソフトウェアや類似のソフトウェアの使用は非常に危険であり、法的リスクや侵害紛争を伴います。 「AI顔変換技術」は、たとえ娯楽目的やなりすまし写真作成目的のみであっても、肖像権や名誉権の侵害にあたる可能性があります。重大な結果を引き起こした場合、侮辱罪や名誉毀損罪に該当する可能性もあります。皆様がこの技術を合法的にご利用いただけることを願っています。今回のような「AI変顔技術」を使った犯罪に遭遇した場合は、できるだけ早く証拠を集め、司法当局に速やかに通報するべきだ。

企画：程立偉

文：リアン・ユーシン

グラフィック: Yuan Yu (コミックを除く)

参考資料：公安部サイバーセキュリティ局のWeChatアカウント、新華社、人民日報、光明日報、東南網など