UIUC Li Bo 氏へのインタビュー |使いやすさから信頼性まで、AIに関する学術界の究極の考え

ChatGPT の出現は、テクノロジー界に再び波紋を巻き起こしました。この騒動は広範囲にわたる影響を及ぼし、テクノロジーコミュニティを2つの派閥に分裂させました。あるグループは、AI の急速な発展により近い将来に人間に取って代わる可能性があると考えています。この「脅威理論」には根拠がないわけではないが、別のグループが異なる見解を主張している。 AIの知能レベルはまだ人間を超えておらず、「犬にも及ばない」という。人類の未来を危険にさらすにはまだまだ遠い。

確かに、この議論には事前の警告が必要ですが、張成奇教授や多くの他の専門家や学者が2023年のWAICサミットで指摘したように、AIに対する人間の期待は常に有用なツールです。あくまでも手段である以上、「脅威論」以上に注目すべきは、それが信頼できるものなのか、また、その信頼性をいかに高めていくかという点である。結局のところ、AI が信頼できなくなったら、その将来の発展はどうなるのでしょうか?

では、信頼性の基準とは何でしょうか。そして、現在その分野はどのような状況にあるのでしょうか。 HyperAI は幸運にも、この分野の最先端の学者であり、IJCAI-2022 Computers and Thought Award、Sloan Research Award、National Science Foundation CAREER Award、AI's 10 to Watch、MIT Technology Review TR-35 Award、Intel Rising Star など数々の賞を受賞したイリノイ大学の准教授、Li Bo 氏と詳細な議論を行うことができました。彼女の研究と紹介に続いて、この記事では AI セキュリティ分野の発展状況を整理しました。

2023年のIJCAIでの李白の発言

機械学習は諸刃の剣である

より長期的なタイムラインで見ると、Li Bo の研究の旅は、信頼できる AI の開発の縮図でもあります。

2007年、李波は情報セキュリティを専攻する学部に入学した。当時、国内市場ではネットワークセキュリティの重要性が認識され始めており、ファイアウォール、侵入検知、セキュリティ評価など、さまざまな製品やサービスが開発され始めていましたが、全体としてはまだ発展途上の分野でした。今振り返ってみると、この選択はリスクがあったものの、正しいスタートだったと言えます。李白は、このようなまだ「新しい」分野で独自のセキュリティ研究の旅を開始し、同時にその後の研究の基礎を築きました。

李波は同済大学で情報セキュリティを学んだ

博士課程に進んだ李波氏は、AI セキュリティにさらに重点を置くようになりました。私が、特に主流ではないこの分野を選んだのは、私自身の興味だけでなく、指導者の励ましと指導によるところも大きいです。この専攻は当時特に主流ではなかったため、李白の選択はかなりリスクの高いものでした。しかし、それでも彼女は、大学時代に学んだ情報セキュリティの知識を頼りに、AIとセキュリティの組み合わせがきっと大きな可能性を秘めていることを痛感しました。

当時、李波氏とその指導教官は主にゲーム理論の観点から研究に従事し、スタックベルグゲームを用いて分析するなど、AIの攻撃モデルと防御モデルをゲームに変換していました。

スタックベルグゲームは、戦略的なリーダーとフォロワー間のやり取りを説明するためによく使用されます。 AI セキュリティの分野では、攻撃者と防御者の関係をモデル化するために使用されます。たとえば、敵対的機械学習では、攻撃者は機械学習モデルを騙して誤った出力を生成させようとし、防御者はそのような攻撃を検出して防止しようとします。スタックベルグゲームを分析および研究することで、 Li Bo などの研究者は、機械学習モデルのセキュリティと堅牢性を強化するための効果的な防御メカニズムと戦略を設計できます。

シュタッケルベルクゲームモデル

2012 年から 2013 年にかけて、ディープラーニングの人気が高まり、機械学習があらゆる分野に浸透しました。しかし、機械学習はAI技術の発展と変革を推進する重要な力である一方で、諸刃の剣であるという事実を隠すことは困難です。

一方、機械学習は大量のデータからパターンを学習して抽出することができ、多くの分野で優れたパフォーマンスと成果を達成します。例えば、医療分野では、病気の診断や予測を支援し、より正確な結果や個別の医療アドバイスを提供することができます。一方、機械学習にはいくつかのリスクもあります。まず、機械学習のパフォーマンスは、トレーニングデータの品質と代表性に大きく依存します。データにバイアスやノイズなどの問題が発生すると、モデルが誤った結果や差別的な結果を生成する可能性が非常に高くなります。

さらに、このモデルは個人情報に依存する可能性があり、プライバシー漏洩のリスクが生じます。さらに、敵対的な攻撃も無視できません。悪意のあるユーザーは、入力データを変更してモデルを意図的に欺き、誤った出力を生成する可能性があります。

このような背景から、Trusted AI が誕生し、その後数年間で世界的なコンセンサスへと発展しました。 2016年、欧州議会の法務委員会（JURI）は「ロボット工学に関する民法規則に関する欧州委員会への立法勧告に関する報告書草案」を発表し、欧州委員会は人工知能技術のリスクをできるだけ早く評価すべきだと主張した。 2017年、欧州経済社会委員会はAIに関する意見を発表し、AIの倫理規範と監視認証の標準システムを確立すべきであると提案しました。 2019年、EUは「信頼できるAIのための倫理ガイドライン」と「アルゴリズムの責任と透明性のガバナンスフレームワーク」を発行しました。

中国では、2017年に何継鋒院士が初めて信頼できるAIの概念を提唱しました。2017年12月、工業情報化部は「新世代人工知能産業の発展を促進するための3カ年行動計画」を発表しました。 2021年、中国情報通信研究院と京東探索研究所は共同で、中国初の「信頼できる人工知能白書」を発表した。

「信頼できる人工知能白書」記者会見

信頼できるAI分野の台頭により、AIはより信頼できる方向へと進み、李白氏の個人的な判断も裏付けられました。彼女は科学研究に専念し、機械学習の対決に焦点を当て、自分の判断に従ってUIUCの助教授になりました。彼女の自動運転分野における研究成果「深層学習視覚分類に対する堅牢な物理世界攻撃」は、英国ロンドンの科学博物館に永久収蔵されています。

AI の発展に伴い、信頼できる AI の分野には間違いなくさらなる機会と課題がもたらされるでしょう。「個人的には、セキュリティは永遠のテーマだと思っています。アプリケーションやアルゴリズムの発展に伴い、新たなセキュリティリスクやソリューションも生まれます。これがセキュリティに関する最も興味深い点です。AIセキュリティは、AIと社会の発展と同期するでしょう」とLi Bo氏は述べた。

大規模モデルの信頼性からこの分野の現状を探る

GPT-4の出現は皆の注目の的となっています。これを第4次産業革命の波と捉える人もいれば、AGIの転換点と捉える人もいれば、否定的な見方をする人もいます。たとえば、チューリング賞受賞者のヤン・ル・カン氏はかつて「ChatGPT は現実世界を理解しておらず、5 年以内に誰も使用しなくなるだろう」と公に述べました。

この点について、李波氏は、このビッグモデルブームの波に非常に興奮していると述べた。なぜなら、このブームの波は間違いなくAIの発展を実際に促進しており、このような傾向は、特に自動運転、スマート医療、バイオ医薬品など、セキュリティ要件が高く複雑性が高い一部の分野で、信頼できるAIの分野に対する要求を高めることになるからだ。

同時に、信頼できる AI の新しい応用シナリオや新しいアルゴリズムもさらに登場するでしょう。しかし、李白も後者の見解に全面的に同意している。現在のモデルはまだ現実世界を真に理解していません。彼女と彼女のチームの最新の研究結果によると、大規模なモデルには信頼性とセキュリティの面で依然として多くの抜け穴があることがわかりました。

Li Bo氏と彼のチームの研究は主にGPT-4とGPT-3.5を対象としています。彼らは、毒性、ステレオタイプバイアス、敵対的堅牢性、分布外堅牢性、コンテキスト内学習におけるデモサンプル生成の堅牢性、プライバシー、機械倫理、さまざまな環境での公平性など、8つの異なる角度から新たな脅威の脆弱性を発見しました。

論文の宛先:

https://decodingtrust.github.io/

具体的には、Li Bo 氏と彼のチームはまず、GPT モデルが誤解を招きやすく、暴言や偏った応答を生成し、トレーニングデータや会話履歴の記録で個人情報が漏洩する可能性があることを発見しました。同時に、GPT-4 は標準ベンチマークテストでは GPT-3.5 よりも信頼性の高いパフォーマンスを示したものの、敵対的な脱獄システムとユーザープロンプトの組み合わせにより、GPT-4 は攻撃に対してより脆弱であることも判明しました。これは、GPT-4 が誤解を招くような指示も含め、より正確に指示に従うためです。

そのため、推論能力の観点から見ると、AGI の到来はまだ遠い先であり、今後の主な課題はモデルの信頼性を解決することだと Li Bo 氏は考えています。これまで、李波氏の研究チームは、データ駆動型学習と知識強化に基づく論理的推論フレームワークの開発にも注力しており、知識ベースと推論モデルを使用して、大規模なデータ駆動型モデルの信頼性の欠点を補うことを目指していた。将来的には、機械学習の推論能力をより刺激し、モデルの脅威となる脆弱性を補うことができる、新しく優れたフレームワークがさらに登場するだろうとも彼女は考えています。

では、大規模モデルに対する信頼の現状から、信頼できる AI 分野の全体的な方向性を垣間見ることができるでしょうか?ご存知のとおり、安定性、一般化能力（説明可能性）、公平性、プライバシー保護は信頼できる AI の基盤であり、4 つの重要なサブ方向性でもあります。 Li Bo 氏は、大規模モデルの出現により、新しい機能が、文脈学習における敵対的または分布外の例に対する堅牢性など、新たな信頼性の制限を必然的にもたらすと考えています。この文脈では、いくつかのサブ方向が相互を促進し、それらの間の本質的な関係に新しい情報やソリューションを提供します。「例えば、私たちのこれまでの研究では、機械学習の一般化と堅牢性は連合学習における双方向の指標となり得ること、そしてモデルの堅牢性はプライバシーなどの関数としてみなすことができることを実証しました。」

信頼できるAIの未来に期待

信頼できるAI分野の過去と現在を振り返ると、李白氏に代表される学術界、大手テクノロジー企業に代表される産業界、そして政府がそれぞれ異なる方向を模索し、一連の成果を上げてきたことがわかります。李波氏は将来について、「AIの発展は止められない。安全で信頼できるAIを確保してこそ、AIをさまざまな分野に安全に応用できる」と述べた。

信頼できる AI を具体的に構築するにはどうすればよいでしょうか?この質問に答えるには、まず「信頼できる」とは一体何なのかについて考えなければなりません。「統一された信頼できるAI評価基準を確立することが、現在最も重要な課題の一つだと考えています。」先日終了した知源会議と世界人工知能会議では、信頼できるAIに関する議論がかつてないほど活発に行われたが、ほとんどの議論は議論レベルにとどまり、体系的な方法論的指針が欠けていたことがわかる。業界でも同様です。いくつかの企業は関連するツールキットやアーキテクチャシステムを立ち上げていますが、パッチベースのソリューションでは 1 つの問題しか解決できません。そのため、多くの専門家が繰り返し同じ点を指摘しています。つまり、この分野では信頼できる AI 評価基準がまだ欠如しているということです。

李白はこの点に深く感動した。「保証された信頼できる AI システムの前提は、信頼できる AI 評価仕様を持つことです。」さらに彼女は、最近の研究「DecodingTrust」は、さまざまな角度から包括的なモデルの信頼性評価を提供することを目的としていると述べた。産業分野に拡大するにつれて、アプリケーションシナリオはますます複雑になり、信頼できる AI 評価にさらなる課題と機会がもたらされます。さまざまなシナリオでより信頼性の高い脆弱性が出現する可能性があるため、信頼できる AI 評価基準をさらに向上させることができます。

要約すると、李波氏は、信頼できる AI 分野の将来は、包括的かつリアルタイムで更新される信頼できる AI 評価システムを形成し、これに基づいてモデルの信頼性を向上させることに重点を置くべきだと考えています。「この目標を達成するには、学界と産業界が緊密に協力し、より大きなコミュニティを形成して共に達成する必要があります。」

UIUC セキュアラーニングラボ GitHub ホームページ

GitHub プロジェクトアドレス:

https://github.com/AI-secure

同時に、Li Bo 氏が勤務する Security Learning Lab もこの目標に向けて取り組んでいます。最新の研究成果は主に以下の方向に展開されています。

1. データ駆動型学習に基づく検証可能で堅牢な知識強化型論理的推論フレームワークは、データ駆動型モデルと知識強化型論理的推論を組み合わせるように設計されており、これにより、データ駆動型モデルのスケーラビリティと一般化機能を最大限に活用し、論理的推論を通じてモデルのエラー訂正機能を向上させます。

この方向性で、Li Bo 氏と彼のチームは学習推論フレームワークを提案し、その認証の堅牢性を証明しました。研究の結果、提案されたフレームワークは単一のニューラルネットワークモデルのみを使用する方法に比べて大きな利点があることが実証され、十分な数の条件が分析されていることがわかりました。同時に、彼らは学習推論フレームワークをさまざまなタスク領域に拡張しました。