顔認証は騙されやすいので、お金が盗まれてしまうのでしょうか？

AIによる顔の改造はかつては有名人だけを悩ませていたが、今では私たちのような一般人の財産の安全に直接影響を与えることになる。

偽の顔を使ってアカウントを盗み、送金する行為に関するニュースが数多く報道されています。今年8月、携帯電話のソフトウェアを使用して動的な顔認識ビデオを作成し、他人のオンラインアカウントにログインして資金を盗むように「偽装」した容疑で、2人の容疑者が警察に逮捕された。

別のニュースでは、制作が簡単なため、ビデオ1本の価格はわずか2～10元で、「顧客」が数百、数千本購入することも多いため、利益の余地が大きいと報じられている。 |出典：北京青年報

報道や裁判所の判決によれば、こうした事件での不法利益は数千元から数十万元に及び、同様の事件は全国で多数発生している。犯罪者の中には、銀行の顔認識認証機能を悪用し、トロイの木馬ウイルスを使ってSMS認証コードを傍受し、預金を盗む者もいた。総額は200万人民元を超えた。

人を騙せなくても、カメラを騙すことはできます！

AI による顔の変更はディープフェイクとも呼ばれ、ディープラーニングとフェイクを組み合わせた技術で、AI を使用してある人物の顔を別の人物の写真やビデオに置き換えます。

AI による顔の改変をめぐる「犯罪的応用」は数多くあり、その中には次のようなものが含まれますが、これらに限定されるわけではありません。

顔認証攻撃: 他人の情報を偽造し、Alipay、WeChat ウォレット、さらにはローン ソフトウェアから直接現金を引き出す。

·偽のポルノ画像/ビデオを作成する：詐欺、脅迫、または他人の評判を傷つける。

リアルタイムの顔を変える通話: アカウントをハッキングし、アカウント所有者の親戚や友人を詐欺する。

·虚偽の情報を作成し、政治家、裁判官、投資家などを欺く。

フェイクニュースの発信：大衆を煽動し、混乱とパニックを引き起こし、ビジネスライバルを攻撃し、株式市場の混乱を引き起こすなど。

これらのうち、顔認識は個人の身元を確認するため、一般の人々にとって最も関連性が高いものです。こうした情報が漏洩すると、資産や情報のセキュリティが脅かされ、インターネット上で「裸」になってしまう可能性が高くなります。

ディープフェイク技術以外にも、「偽の AI メガネ」の作成など、顔認識認証を妨害する方法は数多くあります。

出典：犯罪のアクセサリー：実際のステルス攻撃

最先端の顔認識。

画像認識分野の古典的な論文では、研究者らが数学的計算を通じて特定の「メガネ」（中央の写真）を設計し、これにより、AI顔認識によって人物（左の写真）を別の人物（右の写真）として認識できるようになりました。

検出装置を欺くもう一つの方法は、3Dマスクです。

画像出典: businessinsider & kneron

これはKneron社の製品です。 2019年末には、WeChatやAlipayの顔認識決済や駅の顔認証ゲートでは、マスクを着用して他人に変装して通過できると発表した。

AI による顔の変形の何が特別なのでしょうか?

一般の人々にとって、上記の技術にはさまざまな欠陥があるため、あまり心配する必要はありません。例えば、「偽AIメガネ」は主に静的画像認識を目的としており、動的な顔認識を突破することはできません。 「フェイスマスク」はカスタマイズする必要があり、高価で、製造工程も複雑です。一般の人々にとっては費用対効果が高くありません。

しかし、AI はすべてを変え、偽造のコストを格安にまで削減しました。

動画が短いほど、ピクセル数が低いほど、リアルタイム要件が低くなり（リアルタイムで顔を変える必要があるか、動画を制作してから送信できるか）、騙される側の警戒心が低くなり、利用可能な資料（つまり、対象者の多角度の写真や動画）が増えるほど、詐欺のコストが低くなります。

例えば、同じ人が話しているのに、AIが別の人の顔を置き換えるなどです。すぐに使えるAIモデルはNVIDIA GTX1080 Tiでこれを実現できます。動きは比較的スムーズですが、「プラスチック感」が強く、一目で本物の人物の動画ではないことがわかります。

画像出典: Youtube @Matthias Niessner

NVIDIA RTX 3090 Ti によって長時間 (数時間または数日) トレーニングされた AI モデルは、非常にリアルな効果を生み出すことができます。おそらく、注意深く繰り返し観察した後に初めて、あなたは気づくでしょう。「えっ？」この人の額のしわは今、光っていましたか？

画像ソース: Youtube@Druuzil Tech & Games

「顔認識」の場合、ディープフェイクの方がはるかに安価です。なぜなら、「顔認識」を破るには、最も「洗練された」労働集約的なディープフェイク技術は必要なく、平均的な鮮明さの数秒のビデオがあればよいからです。

より高額な費用をかけて制作された、より洗練されたビデオは、他の不正目的に使用される可能性があります。さらに、この種の詐欺は「儲かる」ビジネスです。設備とアルゴリズムが完成すれば、さまざまな状況やニーズに合わせて偽の動画を大量生産できるようになります。

一般の人は何ができるでしょうか？

AIによる顔の改造が一般人の生活に入り込んだとき、それに関連する違法行為に対処するために私たちは何ができるでしょうか?

顔を変えることで機械を「騙す」にはどうすればいいでしょうか?

顔をスキャンして本人確認を行うなどのシナリオでは、偽のビデオが顔認識システムの自動検証に合格する、つまり機械を「騙す」必要があります。必要なビデオは短く（数秒未満）、ダイナミクスは単純（少数の固定アクションのみ、一部のシステムでは画像のみを認識する）、リアルタイム要件はありません。技術的な観点から見ると、それは比較的単純であり、認識の終わりは実際の人間の制御下にありません。

このような場合、一般の人ができることは、個人情報（顔情報を含む）を保護し、複数の本人認証方法を組み合わせて使用​​することです。

パスワード、指紋、携帯電話番号など、あらゆる認証方法を選択できます。面倒は増えますが、保険をかけているのと同じで、同時にハッキングされる可能性は大幅に減ります。

不幸にしてクレジットカードを盗まれた場合は、すぐに警察に通報し、警察と協力して犯人を追跡し、不法な利益を取り戻してください。同時に、プラットフォームに報告して、プラットフォームが抜け穴を修正し、システムをアップグレードするための詳細な情報を取得できるようにします。

実在の人物に「騙して」顔を変えさせたい場合にはどうすればいいでしょうか?

個人に対する恐喝や詐欺、一般大衆に対する虚偽の報道など、実際の人間を騙すAIによる変貌は、より隠密かつ多様化している。

根本的に言えば、AIによる顔を変える技術の登場により、一般の人々は画像情報に直面する際にはより慎重になり、「百聞は一見に如かず」と盲目的に信じるべきではない。

誰かが偽のヌード写真やわいせつなビデオであなたを脅迫した場合は、応答せず、直接警察に電話してください。

こうした犯罪におけるAIによる顔変えのターゲットは被害者本人なので、動画を見た人は、そのような写真や動画を撮っていないとわかっていれば、その動画が偽物だと判断できる。最も難しいのは、平静を失わず、恐怖から犯罪者に金を渡さないことです。

たとえば、偽の動画で詐欺に遭った場合、詐欺師はあなたの友達の電話番号を盗み、AIを使ってあなたの顔を変え、リアルタイムであなたと会話してお金を借りようとします。現時点では、さまざまなソーシャル プラットフォーム、電子メール、テキスト メッセージ、電話など、マルチチャネル検証が非常に重要です。相手が不安そうだからといって、考えなしにお金を送ってはいけません。

オンラインでニュースやビデオを視聴するときは、ニュースソースが信頼できるかどうかを確認してください。特にバイデン氏の演説やマスク氏の演説は、機械学習に使えるこれらの著名人のトレーニングセットが多すぎて、精度の高い動画を模倣するのは簡単です。

ディープフェイクを見分けるためのヒント

また、動画が AI による顔変更の偽物であるかどうかをより適切に判断するのに役立つヒントもいくつかあります (10 段階のビューティー フィルターをオンにした場合、これらの方法はあまり信頼できません。結局のところ、10 段階のビューティー フィルターも一種の AI による顔変更と見なすことができます)。

顔の形に注目

顔の大きさ、形、顎のライン、特に顔の動きに注目して、それが本人と一致しているかどうかを確認します。

シワへの懸念

結局のところ、肌の状態やシワの傾向は人それぞれ違います。 AI モデルが、数枚の写真（必ずしも最近の写真とは限らない）だけに基づいて、その人と全く同じシワを生成することは困難です。

人物の肌が滑らかすぎる、シワが多すぎる、顔全体の肌の状態に一貫性がない（例えば、額にはシワが多いが頬は滑らかである）、またはビデオ内の年齢に一貫性がない（ある瞬間は若く見え、別の瞬間は老けて見える）など、これらはすべて偽のビデオの特徴である可能性があります。

背景に焦点を合わせる

この背景はこの人が普段使っている背景なのか、背景と人物のつながりが自然なのか、背景自体がデフォルメされていないかなどを確認します。

光と影に焦点を当てる

AIによる顔変換で生成された動画は、現実世界の光と影の物理的ルールに従わないため、顔の影やメガネの反射などが偽の動画と見分けがつかない場合があります。

顔の位置と大きさに注意する

AI によって作成されたビデオでは、顔の特徴が大きく見えたり小さく見えたり、位置がずれたりしている場合があります。

ユニークな顔の特徴に焦点を当てる

顔にほくろ、タトゥー、傷跡がある場合、それらは正しい位置にあるように見えますか?

髪に焦点を当てる

髪のボリュームや生え際は本物に見えますか？毛先は自然に見えますか？

トレンドに従う

例えば、まばたきの頻度や方法が正常かどうか、眉や口の動きが普段の姿と似ているかどうか、首を回した時に変形がないか（特に横に90度回す）、顔が遮られた時に障害物がはっきりと見えるかどうかなどが、AI偽造動画を見分けるポイントとなります。

簡単にバレてしまう動き |画像ソース: metaphysic & VFXChris Ume

上記の理論的な知識に加えて、このウェブサイトにアクセスしてみることもできます（
https://detectfakes.media.mit.edu/ にアクセスして練習し、偽の動画を識別する能力を向上させましょう。おそらく、顔を変えるための AI の違法使用に反対する科学者たちと戦うのを手伝うこともできるでしょう。

違法な利益を得る可能性が高い限り、犯罪者は投資を増やして、より精巧で「本物」の偽ビデオを制作し、一般の人々、大企業、大規模な機関、さらには政府を騙すことをためらわないでしょう。

したがって、個人ができるだけでなく、政府や企業も政策、規制、技術構築を継続的に改善・強化し、技術の進歩が他人を傷つける犯罪の道具になるのではなく、真に人類に利益をもたらすようにすべきである。

参考文献

[1]http://epaper.ynet.com/html/2022-04/14/content_396257.htm?div=-1
小槌 |百聞は一見に如かず？ 「顔を変えて」Alipayアカウントを盗む！誰かが感染しました...（2022）。 2022年10月25日取得、https://mp.weixin.qq.com/s/qNEaUN-A_83OL53vHvbWwwより

[2]https://www.theverge.com/2019/12/13/21020575/china-facial-recognition-terminals-fooled-3d-mask-kneron-research-fallibility

[3]KneronのエッジAIと顔認識調査が業界を前進させる | Kneron – フルスタックエッジ AI。 （2020年）。 2022年10月25日取得、https://www.kneron.com/news/blog/85/より

[4]研究者らは、空港や国境検問所での顔認識を欺くのに必要なのは、印刷されたマスクだけだということを発見した。 （2022年）。 2022年10月25日閲覧、https://www.businessinsider.com/facial-recognition-fooled-with-mask-kneron-tests-2019-12より

[5]ディープフェイクのビデオ通話を見破るには、発信者に横を向いてもらう - Metaphysic.ai。 （2022年）。 2022年10月25日取得、https://metaphysic.ai/to-uncover-a-deepfake-video-call-ask-the-caller-to-turn-sideways/より

[6]よく観察してディープフェイクを検出すると、それを防ぐ方法が明らかになる。 （2022年）。 2022年10月25日取得、https://phys.org/news/2019-06-deepfakes-reveals.html

[7]ユーロポールの報告書によると、ディープフェイク技術は組織犯罪の主要ツールになる可能性がある |ユーロポール。 （2022年）。 2022年10月25日取得、https://www.europol.europa.eu/media-press/newsroom/news/europol-report-finds-deepfake-technology-could-become-staple-tool-for-organized-crimeより

[8]プロジェクト概要‹ディープフェイクの検出：AIによって作成された誤情報に対抗する方法 – MITメディアラボ。 （2022年）。 2022年10月25日取得、https://www.media.mit.edu/projects/detect-fakes/overview/より

[9]Sharif, M., Bhagavatula, S., Bauer, L., & Reiter, MK (2016年10月).犯罪のアクセサリー: 最先端の顔認識に対する現実的でステルス的な攻撃。 2016 ACM SIGSAC コンピュータおよび通信セキュリティ会議の議事録 (pp. 1528-1540)。

[10]Thies, J.、Zollhöfer, M.、Theobalt, C.、Stamminger, M.、および Nießner, M. (2018)。 Headon: 人物ポートレートビデオのリアルタイム再現。 ACMトランザクショングラフィックス（TOG）、37（4）、1-13。

[11]Li, Y.、Yang, X.、Wu, B.、Lyu, S. (2019)。顔を隠す: 敵対的摂動による AI 顔合成の妨害。 arXiv プレプリント arXiv:1906.09288。

[12]ウェスターランド、M.（2019）。ディープフェイク技術の出現：レビュー。テクノロジー・イノベーション・マネジメントレビュー、9(11)。

[13]ミルスキー、Y.、リー、W.（2021）。ディープフェイクの作成と検出：調査。 ACMコンピューティングサーベイ（CSUR）、54（1）、1-41。

[14]Li, C.、Wang, L.、Ji, S.、Zhang, X.、Xi, Z.、Guo, S.、および Wang, T. (2022)。見ることは生きること？ディープフェイク時代の顔認証のセキュリティを再考する。 CoRR abs/2202.10673。

[15] グエン、TT、グエン、QVH、グエン、DT、グエン、DT、Huynh-The、T.、ナハヴァンディ、S.、... & グエン、CM (2022)。ディープフェイクの作成と検出のためのディープラーニング: 調査。コンピュータビジョンと画像理解、223、103525。
[16] 気をつけて！漳州市の男性2人がアカウント窃盗のため「顔」を偽造したとして逮捕された_テンセントニュース。 （2022年）。 2022年10月25日取得、https://new.qq.com/rain/a/20220830A068U500より

著者: 羅万

編集者：エメリア、ユー・シヨウ

グオクル (ID: Guokr42)

転載が必要な場合は[email protected]までご連絡ください。

友達の輪に転送するのを歓迎します

出典: Guokr