1,600人以上の科学者が参加したが、AIツールが現在「必要」だと考えているのはわずか4%だった。

過去 10 年間で、人工知能 (AI) に関する研究論文の数はあらゆる分野で大幅に増加しました。

科学者たちは、研究論文の要約や執筆、コードの記述に AI ツールを使い始めています。一部の研究者は、タンパク質構造の発見、天気予報の改善、医療診断の革新など、有望な分野の中でも新しい分野を探索するために生成 AI 技術を使用しようとしています。

AIはすでに科学研究に浸透しています。それで、科学者たちは彼らについてどう考えているのでしょうか?

最近、トップジャーナル「ネイチャー」が世界中の1,600人以上の研究者を対象に調査を実施した。この結果は、AI ツールが科学の分野でますます一般的になりつつあることを示唆しており、多くの科学者は AI ツールが近いうちに研究実践の中心となることを期待しています。さらに、回答者の半数以上が、AI ツールは今後 10 年以内に非常に重要または不可欠になると考えています。

関連する調査結果は「AIと科学：1,600人の研究者の考え」というタイトルでNatureに掲載されました。

調査では、回答者の3分の2がAIによってデータ処理が高速化されると考えており、58%がAIによってこれまでは不可能だった計算が高速化されると考えており、55%がAIによって時間とコストが節約されると述べています。

「AIのおかげで、これまで解決が困難だった生物学上の問題の解決に前進することができました」とデューク大学の計算生物学者アイリーン・カプロウ氏は言う。

しかし、研究者の69%はAIツールによって深い理解よりもパターン認識への依存が高まる可能性があると述べ、58%はAIによってデータ内の偏見や差別が強化される可能性があると考え、55%はこれらのツールによって不正の可能性が高まる可能性があると考え、53%は不注意な使用によって研究が再現不可能になる可能性があると指摘した。

「主な問題は、AIが証拠と真実の既存の基準に挑戦していることです」と、コネチカット州のジャクソン研究所でがん画像分析に取り組んでいるジェフリー・チュアン氏は言う。

科学者の懸念と興奮

現役研究者の意見を評価するために、ネイチャーは2022年の最後の4か月間に論文を発表した4万人以上の科学者に電子メールで連絡を取り、ネイチャーブリーフィングの読者に調査への参加を呼びかけました。

回答者のうち、48%はAIを直接開発または研究しており、30%は研究にAIを使用しており、残りの22%は科学にAIを使用していません。

研究で AI を使用している人のうち、4 分の 1 以上が、AI ツールは今後 10 年以内に不可欠になると考えていますが、AI ツールが現在「必需品」であると考えている人はわずか 4% です。さらに 47% が AI が非常に役立つようになると考えています。しかし、AIを使わない研究者はあまり興味を示しません。それでも、9% の人は、これらのテクノロジーが今後 10 年間で不可欠なものになると信じており、さらに 34% の人は、非常に役立つだろうと答えています。

生成型 AI の考えられる悪影響のリストから選択するよう求められたところ、研究者の 68% が不正確な情報の拡散を懸念し、さらに 68% が盗作の検出が容易になり困難になると考え、66% が研究論文に誤りや不正確な内容が持ち込まれることを懸念していました。

さらに、回答者は、医療診断に使用される AI ツールが歴史的に偏りのあるデータでトレーニングされた場合、偽造された研究、誤った情報、偏りが生じるのではないかと懸念していると述べました。科学者たちはすでにこの証拠を目にしています。たとえば、米国のチームは、臨床ケーススタディのために GPT-4 に診断と治療の推奨を依頼したところ、患者の人種や性別によって回答が異なったと報告しています。

「大規模言語モデル（LLM）が悪用され、不正確で偽物だがプロフェッショナルに聞こえる結果を生み出している」と、英国ブリストル大学で医療AIの博士号取得を目指しているソフトウェアエンジニアで元起業家のイザベラ・デゲン氏は言う。 「私の意見では、正しい使用と乱用の境界線を十分に理解していない」

研究者らによると、最も明らかな利点は、LLM が英語を母国語としない研究者が研究論文の文法や文体を改善したり、他の研究を要約したり翻訳したりするのに役立つことだ。 「悪意のあるプレイヤーの小さなグループが存在する一方で、学術界はこれらのツールがどのように良いことに使用できるかを示すことができる」とシンガポール国立大学の材料科学者ケダール・ヒッパルガオンカー氏は述べた。

AIに興味を持つ研究者の中でも、仕事でLLMを定期的に活用している人は依然として少数派です。 AI を学習している人の 28% が、生成 AI 製品を毎日または毎週使用していると回答しました。一方、AI のみを使用している人のうち 13% が使用しており、その他の人ではわずか 1% でした。ただし、多くの人が少なくともこれらのツールを試したことはあります。さらに、すべてのグループで最も人気のある用途は、研究とは関係のない創造的な娯楽でした。小規模なグループでは、ツールを使用してコードを記述し、研究のアイデアを開発し、研究論文の作成を支援しました。

さらに、LLM の成果に満足していない科学者もいます。論文編集にLLMを利用したある研究者は、「ChatGPTは人間の悪い文章習慣をすべてコピーしたようだ」と書いています。フィンランドのトゥルク大学の物理学者ヨハネス・ニスカネン氏は、「AIを使って論文を読んだり書いたりするようになれば、科学はすぐに『人間による人間のためのもの』から『機械による機械のためのもの』に変わるだろう」と語った。

AI開発は困難に直面

調査に参加した科学者の約半数が、AIの開発や使用に障壁があると答えた。 AIに直接取り組んでいる研究者の最大の懸念としては、コンピューティング リソースの不足、研究のための資金不足、AIの実行に必要な高品質データへのアクセス不足などが挙げられます。他の分野で働いているが研究に AI を使用している人々は、熟練した科学者とトレーニング リソースの不足をより懸念しており、セキュリティとプライバシーに関する懸念も挙げています。しかし、AIを利用していない研究者は、AIは必要ない、実用的ではない、あるいはAIを研究する経験や時間が足りないなどと言います。

調査から浮かび上がったもう 1 つのテーマは、AI コンピューティング リソースと AI ツールの所有権を営利企業が独占しているということです。 AI を研究している科学者の 23% が、これらのツールを開発している企業 (最も多く挙げられたのは Google と Microsoft) と協力したり、そのような企業で働いたりしていると答えていますが、AI を使用している科学者のうち、そうしているのはわずか 7% です。全体的に、回答者の半数以上が、AI を使用する研究者にとってこれらの企業の科学者と協力することが非常に重要、またはある程度重要であると回答しました。

研究者たちは、科学分野でAIツールを安易に使用すると、エラーや誤検知、再現不可能な結果につながり、時間と労力を無駄にする可能性があると繰り返し警告している。一部の科学者は、AI を使用した論文に質の低い研究が含まれていることに懸念を表明している。

「機械学習は時には役に立つが、AIは役に立つよりも多くの疑問を提起する」とマンハッタンのカンザス州立大学のコンピューター科学者、リオール・シャミール氏は言う。 「科学者が自分のやっていることを理解せずにAIを使うと、誤った発見につながる可能性がある。」

ジャーナル編集者と査読者が AI を使用した論文を適切に査読できるかどうかを尋ねたところ、回答者の意見は分かれました。 AIに取り組んでいるが直接開発はしていない科学者のうち、約半数が「わからない」と答え、4分の1がレビューは適切だと考え、4分の1が不十分だと考えていた。 AI を直接開発している人は、編集とレビューのプロセスに対してより肯定的な見方をする傾向があります。

さらに、ネイチャー誌は回答者にAIが社会に与える7つの潜在的な影響についての懸念の度合いを尋ねたところ、3分の2が非常にまたはかなり懸念していると回答した。自律型AI兵器やAI支援監視もリストのトップに挙げられており、AIが人類に実存的な脅威をもたらす可能性があるという考えは最も懸念されていない。

しかし、多くの研究者は、AIとLLMは避けられないトレンドになっていると言います。 「 AIは変革をもたらすものであり、私たちはAIが問題よりも多くの利益をもたらすようにする方法に重点を置く必要がある」と、マサチューセッツ州ボストンのベス・イスラエル・ディーコネス医療センターの肝臓病専門医、ユーリ・ポポフ氏は書いている。

参考リンク:

https://www.nature.com/articles/d41586-023-02980-0

著者: Yan Yimi 編集者: Academic Jun