人工知能の急速な発展に直面して企業が直面する最大のリスクは何でしょうか?

• AIは農業、教育、医療などの産業に「大きな利益」をもたらす可能性がある。
• しかし、世界経済フォーラムの新しい報告書は、人工知能がビジネスと社会にもたらす潜在的なリスクを指摘しています。
• リスク管理の専門家は、人工知能の恩恵を安全に享受するためには、人工知能に対するより厳しい規制が必要だと述べている。

世界経済フォーラムの「世界リスク見通し調査」では、大企業や国際組織の最高リスク管理責任者（ CRO ）を対象に調査を行っています。最高リスク管理責任者は、人工知能 ( AI ) がビジネスと社会に大きな利益をもたらす可能性を秘めている一方で、その技術がもたらすリスクを理解しなければ、大きな損害を引き起こす可能性もあることに概ね同意しています。

同フォーラムの中間期最高リスク管理責任者展望で詳述されているこの調査は、 AIによるリスク管理がテクノロジーの急速な進歩に追いついていないと警告している。

調査対象となったCROの4分の3は、AIの使用は組織の評判にリスクをもたらすと回答し、10人中9人はAIの開発と使用を規制するためにさらなる対策を講じる必要があると回答しました。

ほぼ半数が、リスクをよりよく理解するまで、新しい AI テクノロジーの開発を一時停止または遅らせることを支持しています。報告書では、 AIは「組織が活動する複雑で不確実な環境を生み出している」と指摘している。

「特に生成型AIの急速な進歩と関心の高まりを受けて、テクノロジー関連のリスクに関する議論はここ数カ月で劇的に増加しています。 」

大きな利益と大きな損害

報告書は、AI技術は農業、教育、医療などの分野で「大きな利益」をもたらす可能性がある一方で、 「大きな混乱を引き起こす可能性もある」と述べている。

最高リスク責任者が指摘する最大のリスクの 1 つは、AI の悪意ある使用です。生成 AI 技術は使い方が簡単なため、一部の人々によって悪用され、虚偽の情報を拡散したり、サイバー攻撃を実行したり、機密性の高い個人データを入手したりするために使用される可能性があります。

AIの重大なリスクは、その「不透明な内部の仕組み」から生じます。報告書によれば、AIコンテンツがどのように制作されるのかを完全に理解している人はいないという。これは、最高リスク管理責任者が警告したリスク、つまり、個人データを不注意に共有し、AI アルゴリズムに基づく偏った意思決定が行われる可能性があることをさらに浮き彫りにします。

最高リスク管理責任者は、人工知能の急速な台頭によってもたらされるリスクをどう見ているか。画像:世界経済フォーラム

報告書ではまた、人工知能の仕組みについての理解が不足しているため、将来のリスクを予測することは難しいとも述べている。しかし、CRO によると、AI によって最も影響を受けるビジネス分野は、運用、ビジネス モデル、戦略です。

回答者全員が、AI の開発ペースは、AI の潜在的な倫理的および社会的リスクを管理できるペースを上回っていると考えています。回答者の43%は、新しいAI技術の潜在的な影響がよりよく理解されるまで、その開発を一時停止するか遅らせるべきだと答えました。

人工知能の開発を規制する

CRO の半数以上が、テクノロジー規制が自社に及ぼす影響を理解していると述べています。最高リスク管理責任者の90%は、人工知能の開発に対する規制を加速する必要があると回答した。

CRO の半数以上が、セキュリティ、合法性、および「倫理的コンプライアンス」を評価するために、組織で使用されている AI テクノロジーをレビューする予定ですが、一部の CRO は、上級管理職が AI をビジネスリスクとして捉えることに消極的であると語っています。

チューリッヒ保険グループの最高リスク管理責任者であり、CRO Outlookレポートの共著者でもあるピーター・ギーガー氏は、AIのリスクを無視することはできないが、企業はより広範で長期的なアプローチを取る必要があると述べた。

ギーガー氏は次のように述べた。 「今後6か月程度で支配的になる可能性のあるリスクに過度に焦点を絞りすぎると、将来に待ち受ける大きなリスクへの対処から注意が逸れてしまう可能性がある。」

「人工知能は、長期的な思考を必要とするため、良い例です。AI は今、すべての人の生活を混乱させるでしょうか? おそらくそうではありません。私たちの多くにとって、それは差し迫った脅威ではありません。しかし、AI が時間の経過とともにもたらす影響と傾向を無視することはできません。 」

人工知能を責任を持って使う方法

同フォーラムは今年6月、人工知能の責任ある開発に関する勧告に関する白書を発表し、技術開発者に対し、オープン性と透明性を高め、より正確で共通の用語を使用するよう求めた。

ガイドラインではまた、テクノロジー業界に対し、人工知能の能力と限界について一般の認識を高めるためのさらなる努力をすること、そして業界の信頼を築くために社会の懸念やユーザーのフィードバックをより考慮することを求めている。

グローバルリスク見通し調査の詳細情報

世界リスク見通し調査は、テクノロジー、金融サービス、ヘルスケア、専門サービス、工業製造などの分野の幅広い多国籍企業のリスク専門家で構成されるフォーラムの最高リスク責任者グループを対象に実施されました。

回答者は、人工知能に加えて、マクロ経済状況、主要原材料の価格と供給の混乱、武力紛争、規制の変更も企業にとって最大の懸念事項であると考えています。

この記事の著者:

ダグラス・ブルーム、フォーラム・アジェンダ上級ライター

この記事はもともと世界経済フォーラムのアジェンダブログに掲載されたものです。