人工知能推進協会は、「AI研究の未来」という新しいレポートを発表しました。推論は長い間、人間の知性の中心的な特徴であると考えられてきました。推論は、与えられた知識の基盤から新しい情報を導き出すために使用されます。この新しい情報は、健全な形式的推論が使用される場合には正しいことが保証されますが、そうでない場合は単にもっともらしいものになります。 AI 研究により、さまざまな自動推論技術が生まれました。これらの推論技術により、SAT、SMT、制約ソルバー、確率的グラフィカル モデルなどの AI アルゴリズムとシステムが生まれ、これらはすべて重要な現実世界のアプリケーションで重要な役割を果たしています。 LLM などの大規模な事前トレーニング済みシステムは推論機能において目覚ましい進歩を遂げていますが、実行される推論の正確性と深さを保証するにはさらなる研究が必要です。このような保証は、自律的に動作する AI エージェントにとって特に重要です。 AI システムは、誤ったステートメントを出力しない限り、事実に基づいています。ニューラル ネットワークに基づく大規模言語モデルに基づく AI システムの事実上の改善は、今日の AI 研究における最大の産業であると言っても過言ではありません。 信頼性は、信頼の基準を拡張して、人間の理解可能性、堅牢性、人間の価値観の組み込みを含めます。信頼性の欠如は、重要なアプリケーションへの AI システムの導入の障壁となってきました。 AI システムの事実性と信頼性を向上させる方法には、微調整、検索強化型生成、機械出力の検証、複雑なモデルをより単純で理解しやすいモデルに置き換えることなどがあります。 マルチエージェント システムは、ルールベースの自律性から、コラボレーション、交渉、倫理的な整合性を重視した協調型 AI へと進化しました。 LLM を活用したエージェント AI の台頭により、柔軟な意思決定の新たな機会がもたらされる一方で、効率性と複雑さの面での課題も生じています。 協調型 AI と生成モデルを統合するには、マルチエージェント環境における適応性、透明性、計算の実現可能性のバランスを取る必要があります。 AI システムでは、標準的なソフトウェア検証および検証方法の範囲をはるかに超える独自の評価課題が発生します。 信頼性の高い大規模な展開を保証するために、AI システムを評価するための新たな洞察と方法が必要です。 AIの急速な発展により、倫理的リスクと安全リスクはより緊急かつ相互に関連しており、現在、これらの問題に対処するための技術的および規制上のメカニズムが欠如しています。 新たな脅威には、新しい AI テクノロジーの倫理的影響と同様に、早急な対応が必要です。倫理的および安全性の課題を解決するには、学際的な連携、継続的な監視、AI 開発に対するより明確な責任が必要です。
|
<<: 大型テレビ事業の是正から始まり、中国のカラーテレビ業界は技術革新の瀬戸際にある2024年を期待している。
>>: Oclean Oneスマート歯ブラシの実体験:1日の使用コストが1元未満の歯科ケアの専門家
韓国メディアの報道によると、シャープは先週サムスンに対し、来年から協力関係を終了し、液晶パネルの供給...
妊婦が食事面で注意しなければならないことはたくさんあります。「病は口から来る」という言葉には根拠がな...
ディンディンディン~ファンタスティックビーストたちがやってくる!...
2023年「中国科学普及青年スター創出コンテスト」の受賞作品著者: 陸 奇夜になると、無数の星が瞬き...
気がつけばもう6月になっていました。気温は徐々に上昇し始めた多くの友人が気づいた太陽の後車に乗ると座...
大豆については多くを語る必要はなく、皆さんすでによくご存知だと思います。大豆はタンパク質やその他の栄...
キノコが人体に良いことは誰もが知っていますが、キノコの種類によって栄養価が異なります。アガリクス・ビ...
現代人にとって単純に思える数字は、実は人類の数万年にわたる数学的発展の結果なのです。数値をどのように...
糖尿病は注目される病気となっています。生活の質が向上するにつれて、人々はますます高カロリーの食べ物を...
捕食者を避けるために、生まれたばかりのキリンや子馬などの動物は、できるだけ速く足で歩くことを学ばなけ...
制作:中国科学普及協会制作者:趙旭茂(蘭州大学若手研究員)制作者: 中国科学院コンピュータネットワー...
バッテリーパックは常に新エネルギー車の生命線とみなされており、販売価格と走行距離はバッテリーパックと...
モバイルインターネットの配当は緩やかな減少期に入り、端末出荷数は3年連続で減少している。大画面インタ...
長子島のホタテにまた異変が起きている!トンガの火山が噴火した後、大量のホタテ貝が2日間で太平洋から9...
「寝る前に携帯電話をいじってはいけない」という声をよく耳にしたことがあると思いますが、ここで私が言...