人工知能は本当に人類を滅ぼすのでしょうか？

もともと世界平和を維持するための研究プロジェクトだったものが、突然災害に変わってしまいました。人類は知能ロボット「ウルトロン」によって滅亡の危機に直面していた。アイアンマン、キャプテン・アメリカ、ハルク、ソーなどのスーパーヒーローたちが再び力を合わせて地球を救う…そう、これが今年5月に公開される『アベンジャーズ2：エイジ・オブ・ウルトロン』のストーリーだ。

「アベンジャーズ2」はスーパーヒーローSF超大作として定義されています。ストーリーはまだ現実からかけ離れているが、「人工知能が人類を滅ぼす」という設定は私たちの神経に触れずにはいられない。

1956 年に「人工知能」という学術用語が初めて提案され、「人工知能」は正式に新しい学問分野となりました。しかし、その後の数十年間で、「人工知能」に対する私たちの印象は、研究室や映画の中のものに似たものになりました。しかし、2013年頃、Google、Microsoft、Facebookに代表されるテクノロジー大手が相次いで人工知能の分野に参入しました。さらに、フォックスコンなどのメーカーがロボットを使って仕事をすることを計画し、「人工知能」が徐々に私たちの生活に入り込んできました。

テクノロジー業界における前例のない「人工知能の波」に直面して、マスク氏やゲイツ氏のようなテクノロジー界の巨人たちは、もはや黙って座っていることはできない。 2014年8月、マスク氏はツイッターに「ボストロム氏の著書『スーパーインテリジェンス』は読む価値がある。我々は人工知能に非常に注意しなければならない。その潜在力は核爆弾よりも危険かもしれない」と投稿した。ビル・ゲイツ氏も最近のイベントで、機械がさまざまな仕事で人間に取って代わるだろうし、人間が機械をうまく扱うことができれば、機械は良い役割を果たすはずだと語った。しかし、数十年後には、人工知能は十分に心配なレベルにまで発展するでしょう。

人工知能の隠れた危険性：あるいは既存の社会システムへの影響

2月初旬、「人類が直面している既存のリスクを軽減する」ことに専念する未来生命研究所の数百人の一流科学者が、人工知能の発展を促進しながら、その発展が人間社会に与える影響を徹底的に調査するようテクノロジー界に求める公開書簡に署名した。

書簡の著者らは、音声認識、画像分類、自動運転車、機械翻訳、質問応答システムなどの分野におけるAIの目覚ましい成功を認め、そのような研究が病気や貧困の撲滅に役立つ可能性があると主張した。しかし彼らは、「AIシステムは我々が望むことを実行しなければならない」と主張し、科学界は「AIの社会的利益を最大化することに役立つ」研究目標を確立すべきだと主張した。

この公開書簡は、将来の人工知能がコンピューターセキュリティ、経済、法律、哲学などの分野で社会に影響を及ぼす可能性があるが、この遍在的な可能性こそが多面的な危機を引き起こす可能性があると強調している。例えば、科学者たちは、将来的に経済の特定の部分が自動化されると、労働者とその賃金は大きな影響を受け、人工知能の専門家は注意を払う必要があると考えています。人工知能は次の疑問に直面する必要がある: 致死性の自律型兵器は人道法に適合するか? AI システムが監視カメラ、電話回線、電子メールからデータを収集する場合、プライバシー侵害をどのように回避すればよいでしょうか?

「機械がミスを犯す場合、人間のミスよりも劇的な形で起こり、より予測不可能な結果を​​もたらす可能性がある」と、英国オックスフォード大学の研究者グループは昨年のブログ投稿に記した。 「単純なアルゴリズムは大部分は予測可能ですが、異常な状況では奇妙な決定を下す可能性があります。」

これらのより現実的な問題と比較して、有名な科学者ホーキングはより長期的な視点で考えます。ホーキング博士はBBCのインタビューで、テクノロジーが人間と同様の能力を持つようになった場合、「テクノロジーは制御不能になり、加速度的に自らを再設計するだろう。さらに恐ろしいのは、生物学的限界により人間がテクノロジーの発展のスピードについていけないことだ」と語った。ホーキング博士は人類の将来について懸念を表明した。「生物の進化が遅いという限界のため、人間は機械と競争することはできず、機械に取って代わられるだろう。完全な人工知能の開発は人類の終焉につながるかもしれない。」

これらの科学者の発言から、科学技術分野の人工知能に対する懸念は主に2つの側面から来ていることがわかります。一方では、人工知能が人間の仕事や生活にもたらす変化が、既存の法制度、倫理基準、利益分配パターンなどに影響を与える可能性があり、人間が変化を起こすスピードが人工知能の発展に追いつけず、既存の社会システムに影響を与え、混乱を引き起こす可能性があります。一方、人工知能は人間の思考力をますます欠如させ、一方でそれ自体はますます賢くなり、人類の生存を脅かす可能性があります。

予言は実現するのか？ 「破壊理論」はやや警戒心を煽る

グーグルのシュミット会長は、マスク氏、ゲイツ氏、ホーキング氏らの発言に真っ先に反論した。シュミットはユニークな立場にいる。グーグルの会長として、彼は自動運転車からグーグルの予測検索エンジンまで、世界で最も複雑な人工知能システムの多くの開発に個人的に関わってきました。 Google は昨年、社内に独自のロボット工学研究所を開設した。シュミット氏は、機械が人間の仕事を奪い、世界を支配するだろうという恐れはすべて根拠のないものだと信じており、ロボットが私たちの友人になるということを人々が理解してくれることを望んでいる。

シュミット氏は「人工知能について心配するのは当然だ。だが歴史を振り返ってみれば、こうした懸念は完全に間違っていることがわかる。我々はただ、機械化が進めばもっと良い服を着られるようになると期待しているだけであり、過去の経済ブームのほとんどは新技術の導入によって引き起こされたことは歴史的経験から明らかだ」と語った。

IBMのグローバル副社長である王洋氏もテンセント・テクノロジーに対し、テクノロジーが急速に進歩すると人々はいつも恐怖を感じるが、本当に重要なのはテクノロジーを習得する人々だと語った。 「新しいテクノロジーを使ってトラブルを起こす邪悪な人は常に存在する。」テクノロジーの発展は止められない。たとえば、ハリウッドの大ヒット映画では、邪悪な勢力がハイテク技術を悪用する場面がよく見られますが、人間は不正な人々の侵略に抵抗するために、できるだけ早くハイテク技術を習得しなければなりません。つまり、新しい技術の開発については必然的に論争が起きるが、科学の進歩は常に人類により良い未来をもたらすだろう。 「

トニー・コーエンは英国リーズ大学の自動推論教授です。同氏は、完全な人工知能の実現には「まだ長い道のりがある。現在の開発速度から判断すると、まだ100年近くかかると思う」と述べた。コーエン氏は、認識プログラムと音声認識は大きく進歩しているものの、ロボットはオープンで混沌とした環境ではパフォーマンスが低いと考えている。人工知能が最終的に直面する最大の障害は、「機械は所詮機械である」ということだ。

ほとんどの人の観点からすると、「人工知能が人類を滅ぼす」という主張は少し誇張されているように思えます。既存の科学技術では、生産ラインでの一定の動作など、機械が実行できるのは基本的なことだけです。自動運転車のインテリジェント システムでさえ完璧ではなく、ましてや人工知能が思考や感情を持ち、人間の生存に脅威を与えることはあり得ません。しかし、無視できないことが一つあります。科学技術の進歩により、自動化された人工知能が私たちの仕事や生活にますます登場し、近い将来、機械が人間の仕事に取って代わる可能性が非常に高くなります。

自動運転車は私たちにとって最も近い形の人工知能ですが、技術的な要素に加えて、多くの課題にも直面しています。たとえば、Google の自動運転車が事故を起こして深刻な結果を引き起こした場合、交通事故の責任は車の所有者、Google、それとも車を運転するアルゴリズム、センサー、およびすべての制御システムにあるのでしょうか?残念ながら、既存の法制度は現代社会、ビジネス、ロボットの発展のスピードに追いついておらず、明確な答えを全く提供できません。

ロボットによって大量の労働者が失業した場合、私たちはどうすればよいのかも考える必要があるのではないでしょうか。ロボットの誤操作により事故が発生した場合、現行法ではどのように責任が明確にされるのでしょうか？人工知能の助けを借りて、ハッカーによる犯罪をどう防ぐことができるでしょうか?これらは私たちが今直面しなければならない問題です。

今日頭条の青雲計画と百家曼の百+計画の受賞者、2019年百度デジタル著者オブザイヤー、百家曼テクノロジー分野最人気著者、2019年捜狗テクノロジー文化著者、2021年百家曼季刊影響力のあるクリエイターとして、2013年捜狐最優秀業界メディア人、2015年中国ニューメディア起業家コンテスト北京3位、2015年光芒体験賞、2015年中国ニューメディア起業家コンテスト決勝3位、2018年百度ダイナミック年間有力セレブなど、多数の賞を受賞しています。