AI は「彼ら」による盗聴を防ぐことができますか?

AI は「彼ら」による盗聴を防ぐことができますか?

次のような状況に遭遇したことがあるかもしれません:

携帯電話でアプリを開くと、最初に表示されるのは数分前に友人や家族と話していた内容です。初めての方は驚かれると思います。しかし、時間が経つと慣れてきて、もう驚かなくなります。

主な原因の 1 つは、現在ではあらゆる場所に設置され、常に「盗聴」しているマイクです。これらは携帯電話、テレビ、時計などのデバイスに組み込まれており、ユーザーの音声をニューラル ネットワークや人工知能システムにリアルタイムで送信し、推奨システムがユーザー向けに「カスタマイズされた」プッシュ サービスを作成するのに役立ちます。

(出典: Pixabay)

では、どうすればこのような事態を回避できるのでしょうか?全く関係のない曲を流したり、音量を最大まで上げたり、積極的に騒音を出したりと、インターネット上には様々な方法があります。たとえば、長期的なマイクの許可を承認するのではなく、1 回限りの承認方法を採用することを選択します。

現在、米国コロンビア大学の研究チームが新たな方法を提案している。同チームは、システムが生成した極めて小さな音を室内で再生するだけで、「盗聴」事件の発生を回避できる人工知能システムを開発したのだ。

言い換えれば、このシステムは、通常の会話に影響を与えることなく、人々の会話の音を偽装し、マイクやその他の監視システムで聞こえないようにします。

「リアルタイムニューラル音声カモフラージュ」と題された関連研究論文が、プレプリントウェブサイトarXivに掲載されました。

さらに研究者らは、この人工知能システムはコンピューターや携帯電話などのハードウェアに簡単に導入でき、常にプライバシーを保護できるとも述べています。

AIでAIに勝つ

人工知能によって利用される問題は、人工知能によって解決されるべきである。

マイクのような妨害システムに関するチームの研究は人工知能の分野では理論的には可能だが、実用化に十分な速度を実現するのは依然として困難な課題だ。

問題は、ある特定の瞬間に人々の会話を聞くためにマイクを妨害しても、数秒後には会話が中断されない可能性があることです。人間が話すとき、異なる単語を異なる速度で話すため声は常に変化します。この変化により、機械が人間の速い話し方に追いつくことはほぼ不可能になります。

この研究では、AIアルゴリズムは人が次に何を言うかという特徴を予測することができ、適切なささやき声を生み出すのに十分な時間があった。

(出典: Pixabay)

コロンビア大学のコンピューターサイエンス助教授カール・フォンドリック氏は、このアルゴリズムは不正なマイクが会話を盗聴するのを80%の効率でブロックすることができ、不正なマイクの位置などの情報を人々が知らない場合でも機能すると述べた。

これを実現するために、研究者たちは、ニューラル ネットワークをリアルタイムで混乱させることができ、音声が発せられている間も継続的に生成され、言語の語彙の大部分に機能するアルゴリズムを設計する必要がありました。これまでの研究では、上記の 3 つの要件を同時に満たす研究はありませんでした。

新しいアルゴリズムは、「予測攻撃」と呼ばれる信号を使用し、自動音声認識モデルが書き起こすように訓練されたあらゆる単語を妨害します。さらに、攻撃音が空中で放送されるときには、遠くにある不正な「盗聴」マイクを妨害できるほどの音量にする必要があります。攻撃音は音と同じ距離を移動する必要があります。

AI システムは、2 秒間の入力音声を条件として、信号または単語に対する将来の攻撃を予測することで、リアルタイムのパフォーマンスを実現します。

同時に、研究チームは攻撃の音量が通常のバックグラウンドノイズと同程度になるように最適化し、マイクなどのシステムによって監視されることなく、室内で人々が自然に会話できるようにした。

さらに、彼らは、自然な周囲雑音と複雑な形状を持つ実際の部屋でこのアプローチの有効性を実証することに成功しました。

しかしフォンドリック氏は、現在のところこのシステムはほとんどの英語の単語にしか効果がなく、アルゴリズムをより多くの言語に適用しているとも述べた。

倫理的な AI のために私たちは何ができるでしょうか?

ビッグデータの時代では、私たちの個人情報は「裸の」状態にあり、私たちの周囲には個人のプライバシーを覗き見するスマートデバイスがますます増えていると言う人もいます。

この研究結果が将来、より多くの言語に適用され、より多くのシナリオに実装されれば、さまざまな形態の人工知能による悪用を回避するのに役立つかもしれません。

ペンシルバニア大学コンピューター情報科学部の教授であるJianbo Shi氏は次のようにコメントしています。「彼らは新たな疑問を提起しています。無意識の人工知能に利用されることから私たちを守るために、人工知能をどのように活用できるのでしょうか?」

同時に、Shi氏は、今後の研究では、研究者は初期の設計段階から人工知能が人間と社会に与える影響について「意識的に」考える必要があり、倫理的なAIが私たちに何ができるかではなく、倫理的なAIのために私たちが何ができるかを問う必要があるとも示唆した。

私たちがこの方向性を信じれば、倫理的な AI の研究は興味深く、創造性に満ちたものになるでしょう。

オリジナルリンク:

https://arxiv.org/abs/2112.07076

https://techxplore.com/news/2022-04-spying-ai-block-rogue-microphones.html

https://c3.ai/glossary/artificial-intelligence/ethical-ai/

学術的見出し

<<:  科学の一服 |あなたなの?研究によると、免疫力が強い人は見た目が良いことがわかった

>>:  レア!最近は早起きしなきゃね!

推薦する

オンラインビデオ対テレビ: 2015年もテレビが優勢

2013年頃からテレビ業界の終末論が市場を席巻した。その後の2年間、テレビコンテンツの集中的な地位が...

斜視は単に「目が寄り目になる」だけですか?医師は私たちにこれらのことに注意するよう促している

「 「先生、私の子供の眼球の位置がおかしいんです。どうして斜視なのですか?」 「彼女は片目だけ、時々...

アルファルファの役割

アルファルファには利尿作用や下剤としての作用があります。また、熱を取り除いて貧血を防ぐ効果もあります...

咳を和らげるヒントの完全なコレクション。家族のために保存してください。

1. 卵で咳を治す4つの方法1. 咳止めに酢入り目玉焼き酢を加えた目玉焼きは、さまざまな咳の治療に...

痛風患者はバーベキューポークを食べても大丈夫ですか?

焼豚は肉の一種です。肉の脂肪含有量は他の食品に比べて比較的高いことは知られていますが、痛風患者は焼豚...

この「優等生」はイオントラップと呼ばれるのですか?量子コンピューティングにおける「スコアリングキング」

制作:中国科学普及協会著者: ルアン・チュンヤン (国立国防科学技術大学理学部)ウー・ウェイ(国立国...

蒸し豆腐プリンの作り方

豆腐プリンはとても身近な食べ物です。南北両方で見つけることができます。私たちは皆、豆腐プリンを飲むの...

乾燥チリソースの作り方

乾燥チリソースはソースの一種で、この種類のソースは一般的に辛い食べ物を好む人々が食べます。誰もが独自...

「ハイ・スイートネス」の先へ:人類の甘さの追求は誰にも止められない!

人類の長い進化の過程において、大量のエネルギーを素早く補給できる砂糖は、常に危機的な瞬間に最も役立つ...

ノーベル賞の連絡があったとき、物理学者たちは何をしていたのでしょうか?

ある意味、ノーベル賞を受賞した瞬間は彼らの人生を変える瞬間です。それで、彼らはその時何をしていたので...

初め!中国の科学者が人間の免疫システムの発達の地図の作成に成功

最近、中国科学院深圳先端技術研究所(以下、「深圳先端研究所」という)の研究者らは、最も広い組織範囲、...

黒ジャガイモとは何ですか?

私たちは普通のジャガイモをたくさん食べてきましたし、ジャガイモが豊富な栄養素をもたらすことも知ってい...

中国・ラオス鉄道の衛星画像: この「山と川の奇跡」はいかにして建設されたのか

12月3日、中国・ラオス鉄道が全面開通した。これは、一帯一路構想が提唱されて以来、主に中国が投資・建...

白米のカロリー

白米は私たちの日常生活に欠かせない主食の一つです。南方の人々の主食は主に米です。多くの珍味の中で目立...

脳の発達:頭上の「インフラの原動力」

制作:中国科学普及協会著者: 王飛 (神経科学博士)プロデューサー: 中国科学博覧会2000年以来、...