生物学的な意味では、ナス科植物という言葉は、非常に有毒な植物を指すのによく使われます。しかし、最近では新たな意味を帯びるようになりました。シカゴ大学のコンピューターサイエンスチームは、アーティストが人工知能による作品の無断使用に対抗できるよう、「Nightshade」と呼ばれるデータ汚染ツールを開発した。この発明は、チームの最新論文「テキストから画像への生成モデルに対する高速で特定のポイズニング攻撃」に掲載されています。 「Solanum nigrum」とは何ですか? Nightshade データ ポイズニング ツールを使用すると、アーティストは作品内のピクセルを変更できます。変化は非常に微妙なので、肉眼では検出できません。この場合、AI プログラムは、人間の解釈と一致しない方法で画像を誤解する可能性があります。 「(このような変更は)犬を猫に、車を牛に変えるなど、さまざまな変化をもたらす可能性がある」とMITテクノロジーレビューは、Nightshadeデータ汚染ツールに関する記事で説明した。 この方法は学術界では「データ ポイズニング」と定義されており、生成型人工知能ツールのパフォーマンスを低下させ、望ましくない、または不正確な出力を生成し、生成された画像がユーザーのニーズから逸脱する原因となる可能性があります。 報告書では、人工知能ツールは通常、何十億ものオンライン画像からデータを抽出するとも付け加えている。したがって、この膨大なデータコンテキストでは、「Solanum」データ汚染ツールが頻繁に使用されるほど、人工知能による汚染の可能性が高くなります。 「Solanum」データ汚染ツールの動作の全プロセス。画像: シカゴ大学 「Solanum nigrum」を開発する理由は何ですか? 「ソラナム」データ汚染ツール開発のきっかけについて、プロジェクトリーダーでシカゴ大学コンピューターサイエンス教授のベン・チャオ氏は、人工知能企業はアーティストの著作権や知的財産権に関わらず、アーティストの作品を許可なく利用して自社の画像生成ツールを訓練することがよくあると語った。 彼は、「ソラナム」データ汚染ツールが、アーティストの著作権や知的財産権を軽視する人工知能企業を罰し、力のバランスをアーティスト側に傾けるのに役立つことを期待している。 人工知能企業がアーティストの著作権や知的財産権を軽視するこのような行為は、一般的になってきているのかもしれない。テクノロジーニュースサイト「VentureBeat」の報道によると、アーティストやパフォーマー、レコード会社が、複数の人工知能企業がアーティストの作品を許可なく利用して自社の人工知能ツールを訓練したとして、これらの企業を相手取って訴訟を起こしたという。 ChatGPTを開発したOpenAIも訴訟の対象となっている。 「Solanum nigrum」は人工知能業界にどのような影響を与えるでしょうか? MITテクノロジーレビューの論評の著者はまた、「Solanum」は画像を生成する人工知能プログラムの行動を妨害したり影響を与えたりすることで、人工知能企業に著作権料の支払いやアーティストの創作的権利と著作権のさらなる尊重などの行動を促す重要な取り組みとなり、社会的、産業的に重要な影響を及ぼす可能性があると述べた。 現在の人工知能の発展において、アーティストが一定の発言権を持っているのは事実です。たとえば、一部の AI 企業は、アーティストが自分の作品をモデルのトレーニング データに含めるかどうかを決定できるシステムやプロセスを構築しています。しかし、たとえアーティストが使用を許可しなかったとしても、AI 企業は芸術コンテンツの使用に対して依然として大きな影響力を保持しています。現状ではアーティストの声はまだまだ十分とは言えません。 ジェネレーティブAI: 世界的な新興技術 世界経済フォーラムは、今後3~5年で社会に良い影響を与えると期待される技術に焦点を当てた「2023年のトップ10新興技術」レポートを発表しました。このレポートでは、2023年に最も有望な10の新興テクノロジーがリストされており、生成型人工知能が2位にランクされています。 「生成AIは現在、主にテキスト、コンピュータープログラミング、画像、音声の生成などの分野で使用されていますが、この技術は医薬品の設計、建築、エンジニアリングなど、さまざまな分野で使用される可能性があります」と報告書は述べています。 しかし、生成 AI が人々の日常生活のさまざまな側面にますます統合されるようになるにつれて、レポートでは、一般の信頼を築くために、アプリケーションが合意された専門的および倫理的基準を満たす必要があることも強調しています。 この記事の著者: ビクトリア・マスターソン、フォーラム・アジェンダ上級ライター この記事はもともと世界経済フォーラムのアジェンダブログに掲載されたものです。 |
<<: 700ドルお得! iPad mini 2 が数秒で mini 3 に変身
>>: Wi-Fi信号カバレッジに影響を与える要因をルーターのせいにしないでください
一夜茶が一夜茶と呼ばれるのは、茶葉を長時間浸しているため、お茶の中のビタミンが失われ、雑菌が繁殖する...
五香塩鴨卵は塩鴨卵の一種で、両者の本質的な違いは漬け方と完成品の味です。漬け方が異なれば食品の出来上...
マンボウも魚の一種です。カルシウム、リン、鉄などの微量元素は、私たちの健康に多くの健康効果をもたらし...
キャベツは私たちが日常的によく食べる野菜です。地域によっては重要な冬野菜でもあります。春雨もとてもシ...
広州から西に100キロほど車を走らせ、喧騒を離れると、目の前に緑豊かな森が広がります。山頂に湖がある...
大都市の環境はますます悪化しており、誰もが公共交通機関を利用するよう呼びかけています。しかし、一般の...
サゴは、特に暑い夏によく飲まれる甘いスープの一種です。サゴには体を冷やす効果が多く、栄養価も非常に高...
19 世紀には、科学的なコミュニケーションに多くの言語が使用されていました。その後、エスペラント語な...
カレー煮込みチキンという美味しい料理は、多くの人が食べたことがあると思いますし、多くの小さなレストラ...
広東省河源市出身のメイおばさん(仮名)51歳は、最近ひどい頭痛のため頻繁に医者に通っている。彼女は1...
キャベツは、私たちが日常よく食べる野菜の一種です。キャベツとも呼ばれ、水分含有量が非常に高い野菜です...
スペアリブは誰もがよく知っている食べ物だと思います。スペアリブは私たちが最もよく食べる食材の1つです...
11月の乗用車小売販売台数は前年同月比11%増の203万台、前月比4.4%増加した。新エネルギー車の...
大豆については多くを語る必要はなく、皆さんすでによくご存知だと思います。大豆はタンパク質やその他の栄...
最近、北京聯通は月額46元の4Gデータパッケージを発売し、多くのネットユーザーの注目を集めた。このパ...