AIソフトウェアを使用して毒キノコを識別しますか? AI がミスを犯した後、人々は有毒なタマゴテングタケを食べて死にそうになりました...

現在、AI技術は私たちの生活のあらゆる面で広く利用されていますが、一部の科学者は、間違いを犯して人命を奪う可能性もあるため、今のところ一部のアプリに健康を託さないよう皆に注意を促しています。

AIがもたらすリスクのいくつかを見てみましょう。 ｜ギフィー

2015年、米国オレゴン州のある家族がキノコ中毒で病院に緊急搬送された。彼らが毒キノコを食べた理由は、携帯電話のアプリがこれらのキノコは食べられると知らせたからだ。

2023年に、これが再び起こりました。ウィリアム D. の家族はキノコをよく食べており、キノコの見分け方はほぼ代々受け継がれてきたものです。しかし、ウィリアム・D 氏は、自分の世代の利点はスマートフォンの使用にあると感じています。そこで彼は裏庭のキノコの写真を撮り、携帯電話の「キノコ識別器」にアップロードしたところ、それが食用キノコであることがわかった。しかし、それを食べた後、彼は毒に侵されました。

地元の医療関係者によると、このキノコの毒性は非常に強く、キノコ1個で4人を殺すのに十分だという。ウィリアム・Dは4個食べました。幸運にも、彼は間に合うように病院に搬送されました。

ウィリアム・D が食べたキノコは、実は猛毒の Amanita phalloides の一種でした。 ｜参考資料2

公共政策研究者のリック・クレイプール氏も、毒キノコの特定にAIソフトウェアを使用した。前回のような深刻な中毒事故は経験していないものの、現代のAIによる判別がいかに間違いやすいかを実感した彼は、AIが判別したキノコの種類を安易に信用しないよう皆に呼び掛けるレポートを書くことにした。

最近ではAIを使ってキノコを識別するソフトも多数登場｜picturemushroom

同氏は報告書の中で、今日のソーシャルメディアプラットフォームは、実際により多くの人々にキノコと中毒の問題を理解してもらうことができ、専門家や経験者もプラットフォーム上でさまざまな高品質の情報やリソースを提供するだろうと述べた。

AI テクノロジーはこのプロセスに大いに役立ちますが、盲目的に信頼するのは危険なことでもあります。

菌類学の専門家であるリック・ヴァン・デ・ポル氏はかつて、専門家であっても見た目だけでキノコが食べられるかどうかを見分けるのは難しいと語ったことがある。これらを区別するには、色や形だけでなく、嗅覚や顕微鏡が必要になることもあります。

報告書で言及されているキノコ識別アプリの一部。 ｜参考資料4

2022年、オーストラリアの研究者グループは、AIを使って野生のキノコを識別する、つまり写真だけでキノコの毒性をAIが判断できるようにすると主張する3つのアプリを分析しました。その結果、これらのアプリは毒キノコを正確に識別できるのは約50％に過ぎないことが判明した。最も優れたモデルの正しい認識率は 67% でした。

そのうち、極めて有毒な Amanita phalloides については、APP が認識できず、1～2 回誤認する可能性もあります。あるアメリカ人医師は、近年、デスキャップを摂取した人の中には生き延びた人もいるが、肝臓移植を受けなければならなくなり、永久的な神経障害を発症した人もいると述べている。したがって、 「重度の中毒や死亡の可能性のコストは非常に現実的です。」

この画像はきれいに見えますが、実際には DALL-E 3 によって生成されたものであり、画像上の文字は意味をなしません。 ｜参考資料4

上記のレポートでは、AI技術は非常に有用であるものの、アプリの機能を宣伝する際にその利点を誇張し、リスクを軽視すると、重大な損害を招く可能性があると述べられています。そのため、報告書では、アプリを提供する企業は、まずAI技術がどこで使用されているかをユーザーに知らせ、次にAIが間違いを犯す可能性があることをユーザーに思い出させ、間違いに対する関連する責任を負うべきだと推奨しています。

AIが間違いを犯す可能性がある理由は、デジタル写真が認識に不正確であるだけでなく、インターネット上に誤った情報が多すぎることも原因です。

404media のレポートによると、アマゾンに掲載されていた「毒キノコの調理方法」を教える AI 生成の本の一部は、実際にはナンセンスだったという。

さらに危険なのは、これらの「毒キノコの食べ方ガイド」では、その本が AI によって書かれたものであることを読者に思い出させることすらできないことです。著者は架空の著者のようです。この「ニセ専門家」は19冊もの本を出版しているそうですが…

これらの本は AI によって生成されたものかもしれませんが、表紙にはヒントがありません。 ｜参考資料5

一部の AI は AI ペインティングを使用してキノコを表示しますが、その場合も詳細が誤って表示される可能性があります。ユーザーが虚偽の情報を入手できるようにします。

AI（左）はポルチーニ茸はこんな感じだと言っていますが、実際の描写は不正確です。右はポルチーニ茸の実際の写真です。 ｜参考資料4

2023年、ギズモードの記者たちは、検索エンジンを使用するとGoogleのAIがばかげた答えを出すことも発見した。 「デスキャップの調理方法」を検索すると、検索エンジンは答えを表示します。水で毒素を濾過することができます...

そして、この答えは実際には間違っています。これに対して、Googleは当時、こうしたデリケートな健康問題を扱うにはより厳重な予防措置を講じ、一部のAIの使用を制限すると表明した。

AIが提供する検索エンジンのコンテンツは偽物であり、専門家は、この方法でAmanita phalloidesを食べると致命的になる可能性があると警告している。 ｜参考資料7

まとめると、AI 技術を有効に活用するには、AI 技術をより深く理解し、規制するとともに、AI 技術がもたらすリスクを無視しない必要があるかもしれません。

実際のところ、野生の毒キノコを識別するための簡単、迅速、効果的かつ 100% 正確な方法は現在のところ存在しません。人々の自己識別能力における楽観的バイアスは悲劇の重要な原因です。

参考文献

[1]https://www.oregonlive.com/pacific-northwest-news/2015/05/4_people_fall_ill_after_trusti.html

[2]https://edition.cnn.com/2023/12/29/health/mushrooms-poisoning-foraging/index.html

[3]https://edition.cnn.com/2023/12/29/health/mushrooms-poisoning-foraging/index.html

[4]https://www.citizen.org/article/mushroom-risk-ai-app-misinformation/?utm_source=VentureBeat&utm_campaign=cef30891a2-EMAIL_CA MPAIGN_2024_03_19_01_11_COPY_01&utm_medium=email&utm_term=0_-dff594d55a-%5BLIST_EMAIL_ID%5D&mc_cid=cef30891a2&mc_eid=6385387dc8

[5]https://www.404media.co/ai-generated-mushroom-foraging-books-amazon/

[6]https://www.tumblr.com/rebeccathenaturalist/726294696941518848/hey-there-fellow-naturalist-albeit-less?ref=404media.co

[7]https://gizmodo.com/google-search-ai-answers-slavery-benefits-1850758631

[8]https://www.tandfonline.com/doi/full/10.1080/15563650.2022.2162917

企画・制作

出典: Bring Science Home (ID: steamforkids)

著者: スキン

編集者：何童

校正: Xu Lai、Lin Lin