次のような状況に遭遇したことがあるかもしれません: 携帯電話でアプリを開くと、最初に表示されるのは数分前に友人や家族と話していた内容です。初めての方は驚かれると思います。しかし、時間が経つと慣れてきて、もう驚かなくなります。 主な原因の 1 つは、現在ではあらゆる場所に設置され、常に「盗聴」しているマイクです。これらは携帯電話、テレビ、時計などのデバイスに組み込まれており、ユーザーの音声をニューラル ネットワークや人工知能システムにリアルタイムで送信し、推奨システムがユーザー向けに「カスタマイズされた」プッシュ サービスを作成するのに役立ちます。 (出典: Pixabay) では、どうすればこのような事態を回避できるのでしょうか?全く関係のない曲を流したり、音量を最大まで上げたり、積極的に騒音を出したりと、インターネット上には様々な方法があります。たとえば、長期的なマイクの許可を承認するのではなく、1 回限りの承認方法を採用することを選択します。 現在、米国コロンビア大学の研究チームが新たな方法を提案している。同チームは、システムが生成した極めて小さな音を室内で再生するだけで、「盗聴」事件の発生を回避できる人工知能システムを開発したのだ。 言い換えれば、このシステムは、通常の会話に影響を与えることなく、人々の会話の音を偽装し、マイクやその他の監視システムで聞こえないようにします。 「リアルタイムニューラル音声カモフラージュ」と題された関連研究論文が、プレプリントウェブサイトarXivに掲載されました。 さらに研究者らは、この人工知能システムはコンピューターや携帯電話などのハードウェアに簡単に導入でき、常にプライバシーを保護できるとも述べています。 AIでAIに勝つ 人工知能によって利用される問題は、人工知能によって解決されるべきである。 マイクのような妨害システムに関するチームの研究は人工知能の分野では理論的には可能だが、実用化に十分な速度を実現するのは依然として困難な課題だ。 問題は、ある特定の瞬間に人々の会話を聞くためにマイクを妨害しても、数秒後には会話が中断されない可能性があることです。人間が話すとき、異なる単語を異なる速度で話すため声は常に変化します。この変化により、機械が人間の速い話し方に追いつくことはほぼ不可能になります。 この研究では、AIアルゴリズムは人が次に何を言うかという特徴を予測することができ、適切なささやき声を生み出すのに十分な時間があった。 (出典: Pixabay) コロンビア大学のコンピューターサイエンス助教授カール・フォンドリック氏は、このアルゴリズムは不正なマイクが会話を盗聴するのを80%の効率でブロックすることができ、不正なマイクの位置などの情報を人々が知らない場合でも機能すると述べた。 これを実現するために、研究者たちは、ニューラル ネットワークをリアルタイムで混乱させることができ、音声が発せられている間も継続的に生成され、言語の語彙の大部分に機能するアルゴリズムを設計する必要がありました。これまでの研究では、上記の 3 つの要件を同時に満たす研究はありませんでした。 新しいアルゴリズムは、「予測攻撃」と呼ばれる信号を使用し、自動音声認識モデルが書き起こすように訓練されたあらゆる単語を妨害します。さらに、攻撃音が空中で放送されるときには、遠くにある不正な「盗聴」マイクを妨害できるほどの音量にする必要があります。攻撃音は音と同じ距離を移動する必要があります。 AI システムは、2 秒間の入力音声を条件として、信号または単語に対する将来の攻撃を予測することで、リアルタイムのパフォーマンスを実現します。 同時に、研究チームは攻撃の音量が通常のバックグラウンドノイズと同程度になるように最適化し、マイクなどのシステムによって監視されることなく、室内で人々が自然に会話できるようにした。 さらに、彼らは、自然な周囲雑音と複雑な形状を持つ実際の部屋でこのアプローチの有効性を実証することに成功しました。 しかしフォンドリック氏は、現在のところこのシステムはほとんどの英語の単語にしか効果がなく、アルゴリズムをより多くの言語に適用しているとも述べた。 倫理的な AI のために私たちは何ができるでしょうか? ビッグデータの時代では、私たちの個人情報は「裸の」状態にあり、私たちの周囲には個人のプライバシーを覗き見するスマートデバイスがますます増えていると言う人もいます。 この研究結果が将来、より多くの言語に適用され、より多くのシナリオに実装されれば、さまざまな形態の人工知能による悪用を回避するのに役立つかもしれません。 ペンシルバニア大学コンピューター情報科学部の教授であるJianbo Shi氏は次のようにコメントしています。「彼らは新たな疑問を提起しています。無意識の人工知能に利用されることから私たちを守るために、人工知能をどのように活用できるのでしょうか?」 同時に、Shi氏は、今後の研究では、研究者は初期の設計段階から人工知能が人間と社会に与える影響について「意識的に」考える必要があり、倫理的なAIが私たちに何ができるかではなく、倫理的なAIのために私たちが何ができるかを問う必要があるとも示唆した。 私たちがこの方向性を信じれば、倫理的な AI の研究は興味深く、創造性に満ちたものになるでしょう。 オリジナルリンク: https://arxiv.org/abs/2112.07076 https://techxplore.com/news/2022-04-spying-ai-block-rogue-microphones.html https://c3.ai/glossary/artificial-intelligence/ethical-ai/ 学術的見出し |
<<: 科学の一服 |あなたなの?研究によると、免疫力が強い人は見た目が良いことがわかった
トマトには多くの栄養素が含まれており、人間の消化に非常に役立ちます。トマトを長期間摂取しても、人間の...
果物には一般的な種類がたくさんあるので、好みに合わせて果物を選ぶことができ、食べるときに幸せになりま...
がんの発生率の上昇は、人々の食生活やライフスタイルの変化と密接に関係しています。したがって、がんの発...
ドローンは今や私たちの生活の中で当たり前のものとなり、ドローンで撮影された素晴らしい写真を見たことが...
科学者グループが最近、地球よりもはるかに多くの水が存在する水の世界であると言われる新しい太陽系外惑星...
昔、トネリコは山や高い丘のある場所に生育する山菜でもありました。最も多く栽培されているのは中国北東部...
「神舟13号」宇宙船が3人の宇宙飛行士を乗せて中国の宇宙ステーションに到着し、素晴らしい宇宙生活を...
豆乳を作るのになぜ大豆を選ぶのでしょうか? それは、大豆にはタンパク質が 40% 含まれており、脂肪...
腎臓は人体の解毒システムの重要な部分です。腎臓が病原体によって損傷を受け、体内の代謝物や毒素が正常に...
魚にはたくさんの種類があり、特に魚を食べるのが好きな人にとっては、魚をランダムに選ぶことはできません...
皮膚アレルギーがある場合、ラム肉を食べることはできますか?これは社会の多くの人々がよく懸念する質問で...
ヨーグルトはヨーグルトと略され、若者に大変人気があり愛されています。若者の間では、自分でヨーグルトを...
10年間の研究を経て、この国家二級保護植物はついに大規模な繁殖を達成した。最近、中国科学院昆明植物...
研究により、肺がんは食生活と密接な関係があり、抗がん・健康維持効果のある食品が9種類あることがわかっ...
多くの石の展示や自然科学博物館では、金色の生物化石のようなものを見ることができます。それらは、真鍮で...