選挙操作、ドローンや車の乗っ取りなど、専門家はAIが悪事を働く可能性を懸念している

近年の人工知能（AI）の発展は注目を集めているが、その潜在的なリスクも多くの専門家の間で懸念を引き起こしている。

一部の専門家の見解では、近い将来、急速に発展する AI 技術が悪意を持って利用された場合、悪質なフェイクニュースやサイバー攻撃を生み出すだけでなく、インフラを破壊する可能性さえあるという。

「人工知能の悪意ある使用：予測、予防、緩和」と題された報告書の中で、人工知能、ネットワーク技術、セキュリティ分野の26人の専門家は、AI技術の悪意ある使用を効果的に制御できない場合、今後数年間でサイバー犯罪が劇的に増加するだろうと警告した。

報告書は、AI技術がこのような急速なペースで発展し続ければ、世界の既存のデジタルおよび物理的な防御メカニズムはすぐにAI技術に対して無力になるだろうと述べている。

報告書は、今後5年から10年でAI技術が人間の行動、感情、思考をより包括的に理解し、より大規模なデータベースを掌握できるようになると、真偽の判別が難しいフェイクニュースが作り出され、ソーシャルメディア上で広く拡散され、ソーシャルメディアや広告を通じて選挙やその他の政治的出来事に影響を与えたり、操作したりするようになる可能性があると予測している。

サイバー攻撃に関しては、AIの力によりサイバー犯罪者はより正確な犯罪を遂行できるようになると報告書は考えている。さらに、報告書では、AI技術がドローンや自動運転車を乗っ取る可能性や、乗っ取られたドローンや自動運転車が武器になる可能性もあると指摘している。

将来、AI 技術が悪意を持って使用された場合に深刻な結果をもたらす重要な理由の 1 つは、AI 技術が人々の日常生活に入り込んでいるからです。人々の行動はAIによってさまざまな形で記録され、巨大なデータベースを形成し、上記のような精密犯罪を可能にしています。

報告書の著者の一人であるケンブリッジ大学危機研究センターのショーン・オハイガータイ博士は、AIは画期的な技術であり、報告書は今後5年から10年で何が起こるかを予測していると指摘した。 AIが悪意を持って利用されれば、人々の実生活が脅かされると彼は考えている。

報告書は具体的な対応策は提案していないものの、政策立案者と研究者が協力してAIの悪用の可能性に備えるよう促し、開発者にはAI技術の悪用を防ぐ方法を見つけるよう求めている。

AIが最も広く活用されているシリコンバレーでは、大手企業の姿勢は明らかに異なっている。スペースXの創設者であるマスク氏は、AI技術の急速な発展が人類に脅威をもたらすことを常に懸念しているが、フェイスブックのCEOであるザッカーバーグ氏はAI技術に対して楽観的だ。マイクロソフトのビル・ゲイツ氏もAIについて「安心」しており、将来はAI技術によってより少ない労力でより多くの製品やサービスが生み出されるだろうと考えている。

今日頭条の青雲計画と百家曼の百+計画の受賞者、2019年百度デジタル著者オブザイヤー、百家曼テクノロジー分野最人気著者、2019年捜狗テクノロジー文化著者、2021年百家曼季刊影響力のあるクリエイターとして、2013年捜狐最優秀業界メディア人、2015年中国ニューメディア起業家コンテスト北京3位、2015年光芒体験賞、2015年中国ニューメディア起業家コンテスト決勝3位、2018年百度ダイナミック年間有力セレブなど、多数の賞を受賞しています。