データの汚染：アーティストは AI に対してどのように反撃しているのか?

• シカゴ大学は最近、「Night Sunflower」と呼ばれるデータ汚染ツールを開発した。これは、画像を生成する人工知能プログラムが使用するトレーニング データに誤解を招く、または混乱を招く情報を導入することで、人工知能プログラムの学習プロセスを妨害するものである。
• 「Solanum」データ汚染ツールは、人工知能が創作物を無断で使用するのを防ぐのに役立つ、アーティストにとっての将来の武器になるかもしれない。
• 世界経済フォーラムの「2023年のトップ10新興テクノロジーレポート」では、生成型人工知能は2023年に最も有望な10の新興テクノロジーの中で2位にランクされました。

生物学的な意味では、ナス科植物という言葉は、非常に有毒な植物を指すのによく使われます。しかし、最近では新たな意味を帯びるようになりました。シカゴ大学のコンピューターサイエンスチームは、アーティストが人工知能による作品の無断使用に対抗できるよう、「Nightshade」と呼ばれるデータ汚染ツールを開発した。この発明は、チームの最新論文「テキストから画像への生成モデルに対する高速で特定のポイズニング攻撃」に掲載されています。

「Solanum nigrum」とは何ですか？

Nightshade データ ポイズニング ツールを使用すると、アーティストは作品内のピクセルを変更できます。変化は非常に微妙なので、肉眼では検出できません。この場合、AI プログラムは、人間の解釈と一致しない方法で画像を誤解する可能性があります。

「（このような変更は）犬を猫に、車を牛に変えるなど、さまざまな変化をもたらす可能性がある」とMITテクノロジーレビューは、Nightshadeデータ汚染ツールに関する記事で説明した。

この方法は学術界では「データ ポイズニング」と定義されており、生成型人工知能ツールのパフォーマンスを低下させ、望ましくない、または不正確な出力を生成し、生成された画像がユーザーのニーズから逸脱する原因となる可能性があります。

報告書では、人工知能ツールは通常、何十億ものオンライン画像からデータを抽出するとも付け加えている。したがって、この膨大なデータコンテキストでは、「Solanum」データ汚染ツールが頻繁に使用されるほど、人工知能による汚染の可能性が高くなります。

「Solanum」データ汚染ツールの動作の全プロセス。画像: シカゴ大学

「Solanum nigrum」を開発する理由は何ですか?

「ソラナム」データ汚染ツール開発のきっかけについて、プロジェクトリーダーでシカゴ大学コンピューターサイエンス教授のベン・チャオ氏は、人工知能企業はアーティストの著作権や知的財産権に関わらず、アーティストの作品を許可なく利用して自社の画像生成ツールを訓練することがよくあると語った。

彼は、「ソラナム」データ汚染ツールが、アーティストの著作権や知的財産権を軽視する人工知能企業を罰し、力のバランスをアーティスト側に傾けるのに役立つことを期待している。

人工知能企業がアーティストの著作権や知的財産権を軽視するこのような行為は、一般的になってきているのかもしれない。テクノロジーニュースサイト「VentureBeat」の報道によると、アーティストやパフォーマー、レコード会社が、複数の人工知能企業がアーティストの作品を許可なく利用して自社の人工知能ツールを訓練したとして、これらの企業を相手取って訴訟を起こしたという。 ChatGPTを開発したOpenAIも訴訟の対象となっている。

「Solanum nigrum」は人工知能業界にどのような影響を与えるでしょうか？

MITテクノロジーレビューの論評の著者はまた、「Solanum」は画像を生成する人工知能プログラムの行動を妨害したり影響を与えたりすることで、人工知能企業に著作権料の支払いやアーティストの創作的権利と著作権のさらなる尊重などの行動を促す重要な取り組みとなり、社会的、産業的に重要な影響を及ぼす可能性があると述べた。

現在の人工知能の発展において、アーティストが一定の発言権を持っているのは事実です。たとえば、一部の AI 企業は、アーティストが自分の作品をモデルのトレーニング データに含めるかどうかを決定できるシステムやプロセスを構築しています。しかし、たとえアーティストが使用を許可しなかったとしても、AI 企業は芸術コンテンツの使用に対して依然として大きな影響力を保持しています。現状ではアーティストの声はまだまだ十分とは言えません。

ジェネレーティブAI: 世界的な新興技術

世界経済フォーラムは、今後3～5年で社会に良い影響を与えると期待される技術に焦点を当てた「2023年のトップ10新興技術」レポートを発表しました。このレポートでは、2023年に最も有望な10の新興テクノロジーがリストされており、生成型人工知能が2位にランクされています。

「生成AIは現在、主にテキスト、コンピュータープログラミング、画像、音声の生成などの分野で使用されていますが、この技術は医薬品の設計、建築、エンジニアリングなど、さまざまな分野で使用される可能性があります」と報告書は述べています。

しかし、生成 AI が人々の日常生活のさまざまな側面にますます統合されるようになるにつれて、レポートでは、一般の信頼を築くために、アプリケーションが合意された専門的および倫理的基準を満たす必要があることも強調しています。

この記事の著者:

ビクトリア・マスターソン、フォーラム・アジェンダ上級ライター

この記事はもともと世界経済フォーラムのアジェンダブログに掲載されたものです。