詳細｜OpenAIが本当に望んでいるものは何なのか？

[編集者注] 昨年末、OpenAI は驚異的な製品 ChatGPT を「急いで」リリースしました。これは、インターネットが人々の生活に入り込んで以来、予期せぬ技術爆発を引き起こしました。突然、チューリングテストは過去のものとなり、検索エンジンは消滅の危機に瀕し、一部の学術論文は信頼できなくなり、仕事は安全ではなくなり、科学的な問題はどれも決まったものではなくなった。

OpenAI、Sam Altman、ChatGPT は瞬く間にこの時代で最もホットな検索用語の 1 つとなり、ほぼすべての人が夢中になりました。では、サム・アルトマンと OpenAI の成長ストーリーをご存知ですか?

最近、著名なテクノロジージャーナリストのスティーブン・レヴィ氏がアメリカのデジタルメディアWIREDに長文の記事を掲載し、サム・アルトマン氏に焦点を当ててOpenAIの成長の歴史と企業ビジョンについて深く議論しました。

主な内容は次のとおりです。

OpenAIのCEOであるサム・アルトマンは、先見の明があるタイプ、あるいは実行力のあるタイプで、AIが黄金時代を導くのか、あるいは人間を無意味にするのか、あるいはもっと悪い状況になるのかといったことについて人々が真っ先に相談する人物である、イーロン・マスクの若きバージョンのような存在だ。

Sam Altman 氏と OpenAI の使命は安全な AGI を構築することであり、OpenAI の従業員はこの目標の追求に熱心に取り組んでいます。 OpenAI のリーダーたちは、想像を絶する豊かさの時代を導くほど賢く安全なコンピューターを構築することを誓っています。

サム・アルトマンと彼のチームは現在、投資家の商業的ニーズを満たし、熾烈な競争に勝ち続けるために、あらゆる製品サイクルで革命を起こさなければならないというプレッシャーにさらされています。同時に、彼らは人類を破壊するのではなく、人類を高めることを目的とした「準救世主」としての任務も負っています。

OpenAIの初期の資金提供はイーロン・マスク氏から提供されたものだが、アルトマン氏とOpenAIのシンクタンクの他のメンバーは後に、イーロン・マスク氏の世界の一部となることに興味がないことを明らかにした。マスク氏は連絡を断った。その後、OpenAIはマイクロソフトの支援を受け、徐々に営利組織となり、一部の従業員の不満を招き、幹部数名が退職する事態となった。彼らは、OpenAI が商業的になりすぎて、ミッションの逸脱の犠牲になったと述べた。

サム・アルトマン氏は、AIを監督する国際機関の設立というアイデアには原則的に賛成しているが、提案されている規則の一部は不公平な障壁となると考えている。しかし、彼と他のOpenAIのリーダーたちは、「AIがもたらす絶滅のリスクを軽減することは、パンデミックや核戦争など他の社会規模のリスクとともに、世界的な優先事項であるべきだ」という声明に署名した。

図 |左から右へ: OpenAI 主任科学者 Ilya Sutskever、OpenAI CEO Sam Altman、OpenAI CTO Mira Murati、OpenAI 社長 Greg Brockman (出典: WIRED)

Academic Headlines では、原文の主旨を変えずに、簡潔に翻訳しました。内容は以下のとおりです。

スターとその取り巻きたちが、待っていたメルセデスのバンによろめきながら乗り込むと、ビートルズマニアに近いエネルギーが空気を満たした。彼らはちょうど一つのイベントから出て、次のイベント、そしてまた次のイベントへと急いでいたが、そこでは熱狂的な群衆が彼らを待っていた。ホルボーンからブルームズベリーまで、彼らはまるで文明の過去と現在の生活を体験するかのようにロンドンの街を旅しました。この車の歴史を作る力は世界中の注目を集めました。列に並んでいる学生から首相まで、誰もが何かを望んでいます。

高級バンの中でサラダをむさぼり食べていたのは、38歳の起業家でOpenAIの共同創設者であるサム・アルトマン氏と、広報担当者、セキュリティ専門家、そして私だった。アルトマンさんは、青いスーツにピンクの襟なしドレスシャツを着て、6大陸25都市を巡る1か月に及ぶ世界旅行の一環として、少し落ち込んだ様子でロンドンをドライブしていた。今日は昼食に座る時間がなかったため、前夜のフランスのエマニュエル・マクロン大統領との会談のことを考えながら野菜をむさぼり食べた。マクロン氏はAIに非常に興味を持っている。

ポーランドの首相も同様だ。スペインの首相も同様だ。

アルトマンと一緒に車に乗っていると、「A Hard Day's Night」の冒頭の、未来への序章とも言える、鳴り響く不協和音が聞こえてきそうだ。昨年11月、OpenAIがモンスター級の製品ChatGPTをリリースしたとき、それはインターネットが私たちの生活に入ってきて以来前例のない技術爆発を引き起こした。突然、チューリングテストは過去のものとなり、検索エンジンは危機に瀕し、大学の論文は信頼できなくなりました。安全な仕事などありません。科学的な問題は決して確定したものではありません。

アルトマン氏は、ChatGPT またはその GPT-4 の研究、ニューラル ネットワークのトレーニング、またはインターフェイスのコーディングには関与していませんでした。しかし、夢想家であり実行者で、共同創業者のイーロン・マスクの若き日のような、重荷を背負っていないCEOとして、彼の写真は次々と人類の新たな課題の視覚的なシンボルとしてニュースで取り上げられた。少なくとも、OpenAI の視覚 AI 製品 Dall-E によって生成された目を見張るような画像に関する見出しのない記事の場合はそうです。彼は今の時代の預言者であり、AI が黄金時代をもたらすのか、人間を無意味にするのか、あるいはもっと悪い結果をもたらすのかについて人々が真っ先に相談する人物です。

5月の晴れた日、アルトマンさんはバンに乗って4つのイベントに参加した。最初は、政府、学界、産業界の人々が参加する非公開の「円卓会議」でした。会議は直前に企画され、サマーズタウンのカフェの2階で開催されました。ワインメーカーのチャールズ・ウェルズの鋭い肖像画の下で、アルトマンは聴衆のほぼ全員に同じ質問をした。 AIは私たちを殺すのでしょうか？規制できるのでしょうか？彼は時折携帯電話に目をやりながら、それぞれの質問に詳細に答えた。その後、彼は豪華なロンドナーホテルでオックスフォードギルドの会員600人を前に談話を行った。その後、彼は地下の会議室に戻り、約100人の起業家やエンジニアからのさらなる技術的な質問に答えた。さて、彼はロンドン大学ユニバーシティ・カレッジのステージ上での午後の講義に遅刻しそうになった。彼と彼のチームは荷積み場に立ち寄り、一連の曲がりくねった廊下へと案内された。歩きながら、司会者は急いでアルトマンにこれから聞く質問を伝えた。アルトマン氏が突然ステージに現れると、聴衆の学者、オタク、ジャーナリストたちは大騒ぎになった。

アルトマンは生まれながらの宣伝好きではない。 『ニューヨーカー』誌が彼についての長い記事を掲載した直後に、私は彼と話をしたことがある。 「私についてはたくさんのことが書かれています」と彼は言った。しかしユニバーシティ・カレッジでは、正式な式典の後、彼はステージに向かって押し寄せる群衆の中に歩み入った。彼の助手がアルトマン氏と群衆の間に入ろうとしたが、彼は助手を振り払った。彼は、まるで初めて質問を聞いたかのように、毎回相手の顔を熱心に見つめながら、次々と質問に答えた。誰もが写真を撮りたがります。 20分後、ようやく彼はチームに助け出してもらうことができた。その後、彼は英国のリシ・スナック首相と会談した。

おそらくいつの日か、ロボットが私たちの歴史を書くとき、彼らはアルトマンの世界ツアーを、誰もが同時に自分自身の個人的な反省を始めた年として、重要な節目として指摘するだろう。あるいは、この瞬間の歴史を書く人は誰でも、これを、サンフランシスコのミッション地区にある目立たない4階建ての本社から全世界に至るまで、パラダイムを打破する技術を持つ、静かに人を惹きつけるCEOが、非常に特異な世界観を世界の知的風景に注入しようとしていると見るかもしれない。

アルトマン氏とその仲間にとって、ChatGPT と GPT-4 は、これらの技術者がすでに自らの体に刻み込んでいるかもしれない、シンプルだが重要なミッションへの足がかりに過ぎない。その使命は、これまで科学よりもSFに基づいた概念である汎用人工知能（AGI）を構築し、それを人間にとって安全なものにすることです。 OpenAI の従業員はこの目標の追求に熱心に取り組んでいます。 （ただし、オフィスのカフェでの会話を見れば、「安全性の確保」よりも「AGI の構築」の方が研究者を刺激していることがわかります）。これらの人々は「スーパーインテリジェンス」という言葉を気軽に使うことに躊躇しません。彼らは、AI が生物学がこれまで達成したどんな成果も超える軌道に乗っていると信じています。同社の財務書類には、AI が経済システム全体を破壊した場合に備えて、撤退の緊急時対応計画まで記載されています。

OpenAI をカルトと呼ぶのは不公平だが、同社のトップ幹部数人に、AGI が現実のものとなり、その到来が人類史上最も偉大な瞬間の一つとなることを信じずにそこで働けるかと尋ねたところ、ほとんどの幹部が同意しなかった。彼らは、なぜ信仰を持たない人がここで働かなければならないのかと問わずにはいられません。彼らの推測では、現在約 500 人の従業員は自ら信者になることを選んだだけである。少なくとも、アルトマンが言うように、一度採用されればこの呪いに引き込まれるのは避けられないようだ。

同時に、OpenAI はもはや以前とは異なります。純粋に非営利の研究機関として設立されましたが、現在ではその従業員の大半は、実質的には300億ドル近くの価値があると言われる営利団体に勤務しています。現在、アルトマン氏と彼のチームに課せられたプレッシャーは、厳しい競争で勝ち残りながら、投資家の商業的ニーズを満たし、製品サイクルごとにイノベーションを実現することです。同時に、彼らは人類を破壊するのではなく、人類を高めるという準救世主的な使命を持っています。

この種のプレッシャーは壊滅的なものになり得ます。ビートルズは大きな変化の波を起こしたが、それは長くは続かなかった。あの記憶に残る旋律を奏でてから6年後には、彼らはもはやバンドですらなかったのだ。 OpenAI によって引き起こされる大混乱は、ほぼ間違いなく、はるかに大きなものとなるでしょう。しかし、OpenAIのリーダーたちは粘り強く取り組むことを誓った。彼らがすべきことは、歴史を終わらせ、想像を絶する豊かさの時代をもたらすのに十分賢く、かつ安全なコンピューターを作ることだと彼らは言う。

アルトマンは1980年代後半から1990年代前半にかけて、SFとスターウォーズに夢中なオタクとして育った。初期の SF 作家が創造した世界では、人間は超知能 AI システムと共存したり、競争したりすることがよくあります。コンピューターが人間の能力に匹敵するかそれを超えるという考えは、指がキーボードにほとんど届かないアルトマン氏を興奮させ、彼はコーディングを続けました。彼が 8 歳のとき、両親は彼に Macintosh LC II を買ってあげました。ある夜、彼はとても遅くまでゲームをしていたのですが、突然、あるアイデアが頭に浮かびました。「いつかこのコンピューターは考えるようになるだろう。」 2003年にスタンフォード大学の学部生として入学した彼は、その実現に貢献したいと願い、AIコースを受講した。しかし、「それはうまくいかなかった」と彼は後に語った。当時、AI分野は依然として「AIの冬」と呼ばれるイノベーション低迷の真っ只中にあった。アルトマンは大学を中退し、スタートアップの世界に入りました。彼の会社、Loopt は、世界で最も有名なインキュベーターとなった Y Combinator の最初の小規模企業の一つでした。

2014年2月、YCの創設者ポール・グラハムは当時28歳だったアルトマンを後継者に選んだ。 「彼は私が知る限り最も賢い人物の一人であり、おそらく私自身を含め、私が知る誰よりもスタートアップについて理解している」とグラハム氏は発表の中で述べた。しかし、アルトマン氏にとって、YC は単なる企業の出発点以上のものである。 「私たちはスタートアップ企業ではありません」と彼は指揮を執って間もなく私に語った。 「私たちはイノベーションに取り組んでいます。なぜなら、イノベーションだけがすべての人にとってより良い未来を創造できると信じているからです。」アルトマン氏の見解では、これらすべてのユニコーンから現金を得る目的は、パートナーの財布を肥やすことではなく、種レベルの変化に資金を提供することだ。彼は、世界最大の問題を解決するための野心的なプロジェクトに資金を提供したいという希望を抱いて研究部門を設立した。しかし彼の見解では、AI はすべてを混乱させるイノベーション分野であり、人間よりも優れた方法で人間の問題を解決できる超知能です。

幸運なことに、アルトマン氏が新しい仕事に就いたとき、AI の冬は実り豊かな春に変わりつつありました。今日、コンピューターはディープラーニングとニューラルネットワークを通じて、写真のラベル付け、テキストの翻訳、複雑な広告ネットワークの最適化など、驚くべき偉業を成し遂げています。これらの進歩により、彼は初めて AGI が本当に手の届くところにあると信じるようになりました。しかし、大企業に任せるのは不安だという。これらの企業は自社製品に集中しすぎて、AGI をできるだけ早く開発する機会を逃してしまうだろうと彼は考えています。そして、もし彼らが AGI を作成したとしても、必要な予防措置を講じずにそれを無謀にも一般に公開してしまう可能性があります。

当時、アルトマン氏はカリフォルニア州知事選への出馬を検討していた。しかし彼は、人類そのものを変えるような会社を率いるという、もっと大きな目標に向けて十分に準備ができたことにも気づいた。 「AGI は一度しか構築されません」と彼は 2021 年に私に語った。「そして、OpenAI をうまく運用できる人は多くありません。私は人生でさまざまな経験を積んできたので、これに備えることができました。」

アルトマン氏は、責任あるAIに向けてこの分野を導く非営利団体、新しいタイプのAI企業を設立するのを手伝ってくれそうな人々と話し合いを始めた。同じような考えを持つ人物の一人が、テスラとスペースXのCEOであるイーロン・マスク氏です。マスク氏はその後CNBCに対し、グーグルの共同創業者ラリー・ペイジ氏と長時間にわたる議論を重ねた後、AIの影響について懸念するようになったと語った。マスク氏は、ペイジ氏が安全性の問題にほとんど注意を払わず、ロボットの権利を人間と同等に考えているように見えることに不満を感じていると述べた。マスク氏が懸念を表明すると、ペイジ氏は同氏を「種差別主義者」だと非難した。マスク氏はまた、当時グーグルが世界のAI人材のほとんどを雇用していたことも理解していた。彼はチームヒューマンのためにいくらかのお金を費やしてもっと多くのことをするつもりです。

数か月のうちに、アルトマンはマスク氏（1億ドルと時間を約束）とリード・ホフマン氏（1000万ドルを寄付）から資金を調達した。他の資金提供者には、ピーター・ティール、ジェシカ・リビングストン、アマゾン・ウェブ・サービス、YCリサーチなどが含まれる。アルトマンは秘密裏にチームメンバーの募集を始めた。彼は検索範囲を AGI 信者に限定しました。この制限は選択肢を狭めるものでしたが、彼はこれを非常に重要なことだと考えました。 「2015年にAI研究者を募集していたとき、AGIに真剣だと言うことは、キャリアを台無しにすると考えられていた」と彼は語った。 「でも、真剣に取り組む人が欲しかったんです。」

図｜グレッグ・ブロックマン（出典：WIRED）

その一人は、Stripe の CTO である Greg Brockman 氏で、彼は OpenAI の CTO に就任することに同意しました。もう一人の重要な共同創設者は、検索大手の最先端のAI研究組織であるGoogle Brainで以前働いていたAndrej Karpathy氏です。しかし、おそらくアルトマンが最も切望するターゲットは、イリヤ・スツケヴァーという名のエンジニアだろう。

サツケヴァー氏は、ディープラーニングとニューラルネットワークの研究で現代AIのゴッドファーザーとして称賛されているジェフリー・ヒントンの弟子である。ヒントン氏は今でもスツケヴァー氏と親しい関係を維持しており、彼の生徒の知性に驚嘆している。サツケヴァー氏が研究所に勤務し始めて間もなく、ヒントン氏は彼に複雑なプロジェクトを与えた。 Sutskever 氏は、必要な計算を実行するためのコードを書くのにうんざりしており、その作業のためにカスタム プログラミング言語を書いた方が簡単だと Hinton 氏に伝えました。ヒントン氏は少しイライラしながらも、1か月間生徒の気を散らすようなことをしないように警告しようとした。すると、スツケヴェルは「今朝やったんだ」と告白した。

画像: イリヤ・スツケヴァー (出典: WIRED)

スツケバー氏は、大量のデータにAIをさらすことで画像認識を学習する方法を示した画期的な論文の共著者となり、AI分野のスーパースターとなった。最終的に、彼は Google Brain チームの中核科学者になりました。

2015年半ば、アルトマン氏はサツケヴァー氏に突然メールを送り、マウント・パロアルトにある豪華なローズウッドホテルでマスク氏、ブロックマン氏らと夕食を共にするよう誘った。スツケヴェルが晩餐会の主賓であることを知ったのは後になってからだった。 「それはAIとAGIの将来についての会話でした」と彼は語った。もっと具体的に言えば、彼らは「グーグルとディープマインドがあまりにも先を進んでいて追いつくのは不可能なのか、それともマスク氏が示唆したように、両社に対抗できる研究所を作ることは可能なのか」について議論した。夕食会の参加者は誰もスツケヴァー氏を積極的に勧誘しようとはしなかったが、会話は彼の興味をそそった。

その後すぐに、スツケヴァー氏はアルトマン氏にプロジェクトを率いることを申し出るメールを送ったが、そのメールは下書きボックスの中に残ってしまった。アルトマン氏は返事を出し、グーグルとの何カ月にもわたる反対提案の後、スツケヴァー氏は契約に署名した。彼はすぐに会社の魂となり、研究の原動力となった。

サツケヴァー氏はアルトマン氏やマスク氏と協力してプロジェクトのための人材を募集し、最終的にはナパバレーでのリトリートで将来のOpenAI研究者数名が互いに励まし合う場となった。もちろん、誘惑に抵抗する人もいるでしょう。 Doom、Quake、その他数え切れ​​ないほどのゲームを開発した伝説のプログラマー、ジョン・カーマックは、アルトマンの申し出を断った。

OpenAIは2015年12月に正式に立ち上げられました。当時マスク氏とアルトマン氏にインタビューしたとき、彼らはこのプロジェクトについて、AIを世界と共有することでAIを安全かつアクセスしやすいものにする方法だと説明しました。つまり、オープンソースです。 OpenAIは特許を申請しないと彼らは私に言いました。誰でもブレイクアウトを使用できます。これは将来のドクター・イーブルに力を与えることではないでしょうか?私は知りたいです。マスク氏は、それは良い質問だと述べた。しかし、アルトマン氏は答えを持っている。人間は一般的に善良であり、OpenAI は大多数の人々に強力なツールを提供するため、悪者は脆弱になるだろう、というものだ。彼は、もしドクター・イーブルがこれらの道具を使って何か魅力的なものを作ったら、「私たちは本当にまずい状況に陥るだろう」と認めた。しかし、マスク氏もアルトマン氏も、AI開発のより安全な方向性は、利益を追求する動機に染まっていない研究機関の手に委ねられていると考えている。

アルトマンは私に、すぐに結果が出ることを期待しないようにと注意した。 「ここは長い間、研究室のような場所になるだろう」と彼は語った。

期待を下げるべきもう一つの理由があります。 Google や他の企業は長年にわたり AI の開発と応用を行ってきました。 OpenAIは10億ドル（主にマスク氏から）の資金提供を受け、優秀な研究者やエンジニアのチームを擁し、壮大なミッションを掲げていたが、そこに到達する方法が全くわからなかった。アルトマンさんは、オフィスを持つ前に、小さなチームがブロックマンさんのアパートに集まったときのことを覚えている。 「私たちはどうするつもりなのかと思いました。」

OpenAI が設立されてから 1 年ちょっと経った頃、私はサンフランシスコでブロックマン氏と昼食を共にしました。 「オープン」という言葉を名前に持つ会社にしては、彼は細かい点についてはかなりケチだった。同氏は、非営利団体が当初の寄付金10億ドルを時間をかけて使うことができると断言した。市場価値をはるかに下回る給与を支払われている25人の従業員の給与が、OpenAIの経費の大部分を占めている。 「私たちの目標、そして本当に目指しているのは、人間がこれまでできなかったことをシステムができるようにすることです」と彼は語った。しかし、今のところは、論文を発表している研究者のグループに過ぎないようです。面接後、私は彼に同行してミッション地区にある同社の新オフィスへ行ったが、彼は私を正面ロビーまでしか通してくれなかった。彼はクローゼットに入って、私にTシャツを買ってきてくれました。

もし私が行って聞いていたら、OpenAI がいかに難しいかがわかったかもしれません。 「何もうまくいかなかった」とブロックマン氏は今や認めている。同社の研究者らは、アルゴリズムの麺を天井に投げて何がくっつくか調べた。彼らはビデオゲームを解くシステムを詳しく研究し、ロボット工学に多くの時間を費やしました。 「私たちは何をしたいのか分かっていた。なぜそれをしたいのか分かっていた。しかし、どうやってそれをするかは分からなかった」とアルトマン氏は語った。

しかし彼らは信じている。彼らの楽観的な見方は、ディープラーニング技術を使用した人工ニューラルネットワークの継続的な改善によって裏付けられています。 「基本的な考え方は、ディープラーニングに賭けないことだ」とサツケヴァー氏は言う。 AIを追い求めることは「まったく狂っているわけではない。適度に狂っているだけだ」と彼は言う。

OpenAI の台頭は、比較的無名の研究者であるアレック・ラドフォード氏を採用したときに始まりました。 2016年、ラドフォード氏は寮の部屋で共同設立したボストンの小さなAI企業を辞め、OpenAIに入社した。 OpenAI の招待を受け入れた後、彼は高校の同窓会雑誌に、新しい役職に就くことは「大学院プログラムに参加するようなもの」、つまり AI を学ぶためのオープンでプレッシャーの少ない環境に参加するようなものだと語った。

彼の実際の役割は、ラリー・ペイジが PageRank を発明したようなものです。

メディア嫌いで、自身の仕事について一度もインタビューを受けたことのないラドフォード氏は、OpenAIでの初期の仕事についての私の質問に長いメールで答えてくれた。彼の最大の関心事は、ニューラル ネットワークを使って人間と明瞭な会話をできるようにすることです。これは、オリジナルの ELIZA から人気の Siri や Alexa まで誰もが使用してきたチャットボットを作成するための従来のスクリプト モデルとは異なりますが、それらはすべてひどいものです。 「私たちの目標は、言語モデルが役立つタスク、設定、ドメインなどがあるかどうかを確認することでした」と彼は書き、当時、言語モデルはたまにしか意味のある文章を生成できず、しかも目を細めて見なければ生成できない新しいおもちゃと見なされていたと説明した。彼の最初の実験は、言語モデルをトレーニングするために 20 億件の Reddit コメントをスキャンすることだった。 OpenAI の初期の実験の多くと同様に、この実験も失敗しました。それは問題ではありません。 23歳の彼は、前進し、再び失敗することを許可された。 「我々は、アレックは素晴らしいから、彼のやりたいことをやらせようと思った」とブロックマンは語った。

彼の次の大きな実験は、OpenAI のコンピューター処理能力の限界によって形作られ、Amazon 製品レビューという単一の領域に焦点を当てた小規模なデータセットで実験することになった。ある研究者は約1億件のレビューを収集しました。ラドフォードは、生成されたユーザーコメントの次の文字を単純に予測する言語モデルをトレーニングしました。

しかし、後になって、モデルはレビューが肯定的か否定的かを独自に判断できるようになります。肯定的または否定的なレビューを作成するようにモデルをプログラムすると、モデルは要求に応じて賞賛または批判するレビューを投稿します。 （確かに、文章はぎこちない。「この武器の見た目が気に入りました…チェス好きの男性は必見です！」）。 「全く予想外のことでした」とラドフォード氏は語った。レビューの感情、つまり好き嫌いは複雑な意味論的機能ですが、ラドフォードのシステムの一部にはすでにその意味が組み込まれています。 OpenAI では、ニューラル ネットワークのこの部分は「教師なし感情ニューロン」と呼ばれています。

サツケヴァー氏らはラドフォード氏に、アマゾンのレビュー以外にも実験を広げ、幅広いトピックについて会話をしたり質問に答えたりできるようにニューラルネットワークを訓練する洞察力を活用するよう奨励している。

その後、OpenAIに幸運が訪れました。 2017年初頭、Googleの研究者8人が共同執筆した研究論文のプレプリントが公開されたが、あまり注目されなかった。この論文の正式なタイトルは「Attention Is All You Need（必要なのは注意力だけ）」だったが、そのアイデアの画期的な性質を反映し、またトラックから巨大ロボットに変形するおもちゃに敬意を表して、「トランスフォーマー論文」として知られるようになった。トランスフォーマーにより、ニューラル ネットワークは言語をより効率的に理解および生成できるようになります。彼らは散文の塊を並行して分析し、どの要素に重点を置く価値があるかを判断します。これにより、プロンプトに応じて一貫したテキストを生成するプロセスが大幅に最適化されます。やがて、人々は同じ技術で画像やビデオも生成できることに気づきました。この論文はその後、現在の AI ブームのきっかけとなったと称されるようになったが (エルヴィスがビートルズを誕生させたようなものだと考えればわかる)、当時、イリヤ・スツケヴァー氏はこの画期的な発明がいかに大きな力を持つかを理解していた数少ない人物の 1 人だった。 「イリヤがトランスフォーマーの出現を見たとき、本当に驚いた瞬間でした」とブロックマンは言う。 「彼は『これこそ我々が待ち望んでいたものだ』と言いました。それが我々の戦略です。問題に一生懸命取り組み、その後は我々かその分野の誰かが欠けている要素を見つけ出すだろうと信じるのです。」

ラドフォードはTransformerアーキテクチャの実験を始めました。 「過去2年間よりも2週間で大きな進歩を遂げました」と彼は語った。新しいモデルを最大限に活用するための鍵は、モデルをスケールアップすること、つまり非常に大規模なデータセットでトレーニングすることであることが徐々にわかってきました。このアイデアは、ラドフォードの協力者であるレウォン・チャイルドによって「ビッグ・トランスフォーマー」と名付けられました。

このアプローチには、これまで欠けていた OpenAI の文化と重点の変化が必要になります。 「トランスフォーマーを活用するには、規模を拡大する必要がある」と、OpenAIの取締役を務めるQuoraのCEO、アダム・ダンジェロ氏は語った。 「エンジニアリング組織のように運営する必要があります。研究者全員が自分の仕事をし、自分のモデルをトレーニングし、公開できるような洗練されたものを作ることはできません。もっと退屈で、洗練されていない仕事をしなければなりません。」これは OpenAI だけが実現できるものであり、他の誰にもできないことだと彼は付け加えた。

ラドフォード氏とその協力者は、自分たちが作成したモデルを「生成的に事前訓練されたトランスフォーマー」（GPT-1の略）と名付けました。最終的に、このモデルは「生成 AI」として知られるようになりました。モデルを構築するために、研究チームはロマンス、ファンタジー、冒険のジャンルを中心とした未出版の本を 7,000 冊収集し、Quora の Q&A や中学・高校の試験からの数千の文章でモデルを改良しました。全体として、モデルには 1 億 1,700 万個のパラメーター、つまり変数が含まれています。このモデルは、言語の理解と回答の生成において、これまでのすべてのモデルを上回りました。しかし、最も印象的な結果は、このような大量のデータを処理した後、モデルがトレーニングされた範囲を超えた結果を提供し、まったく新しい分野での専門知識を提供できるようになったことです。このような計画外のロボット機能は「ゼロショット」と呼ばれます。これらは依然として研究者を困惑させており、そのためこの分野の多くの人々は、いわゆる大規模言語モデルに対して不安を抱いています。

ラドフォード氏は OpenAI オフィスでの深夜のことを思い出す。 「私はただ何度も何度も言い続けました。『まあ、これはクールだけど、X はできないはずだ』。そしてすぐに評価コードを書くと、案の定、X はできました。」

GPT の各反復は、以前のモデルよりも桁違いに多くのデータを消費するため、より優れたものになります。モデルの最初のバージョンを作成してからわずか 1 年後、OpenAI はオープン インターネット上で驚異的な 15 億のパラメータを使用して GPT-2 をトレーニングしました。幼児が言語を習得するのと同じように、その反応はより良く、より首尾一貫したものになっていった。そのため、OpenAI はプログラムを公開するかどうかを躊躇していました。ラドフォード氏は、それがスパムの生成に利用される可能性があると懸念している。 「2008年にニール・スティーブンソンの『アナセム』を読んだのを覚えている。その本の中では、インターネットはスパム生成器で溢れていた」と彼は語った。 「当時は非現実的だと思っていましたが、言語モデルを研究し、それが何年にもわたってどのように改善されてきたかを知るうちに、これが現実の可能性があるのだと気づきました。」

実際、OpenAI チームは、自分たちの研究成果を Dr. Evil が簡単にアクセスできる場所に置くのは、結局のところあまり良い考えではないのではないかと考え始めました。 「GPT-2をオープンソース化するのは非常に危険だと考えた」と、2018年に同社で働き始めた最高技術責任者のミラ・ムラティ氏は語る。「誤情報の専門家と多くの作業を行い、レッドチーム演習も行った。どの程度の情報を公開するかについては社内で多くの議論があった」結局、OpenAI は今のところ完全版を保留し、機能の少ないバージョンを一般に公開しました。同社がついに完成版を公開したとき、世の中はすべて順調だったが、より強力なモデルが災難を回避できるという保証はなかった。

画像: ミラ・ムラティ (出典: WIRED)

OpenAI が危険とみなされるほどスマートな製品を作り、それを安全に保つ方法を見つけているという事実自体が、同社の魔法が機能していることの証拠です。 「私たちは進歩の公式を見つけました。それは今では誰もが知っている公式です。ディープラーニングの酸素と水素は、大規模なニューラルネットワークとデータによるコンピューティングです」とサツケバー氏は語った。

アルトマンにとって、それは変革をもたらす経験だった。 「AI について空想にふけっていた 10 歳の私に、未来はどうなるかと尋ねられたら、まずはロボットがすべての肉体労働を行うだろう、と自信を持って予測したでしょう。次に、基本的な認知労働を行えるシステムが登場します。そして、そのずっと後には、数学の定理を証明するなど、複雑な作業を行えるシステムが登場するかもしれません。そして最後に、新しいものを作ったり、芸術を作ったり、文章を書いたり、人間の生活に深く根ざしたこれらのことを行える AI が登場するでしょう。これは恐ろしい予測であり、逆の方向に向かっています。」

世界はまだ知らなかったが、アルトマンとマスクの研究所はすでにAIの頂点へと着実に近づきつつあり、その進歩は始まっていた。 OpenAI の背後にあるクレイジーなアイデアが、突然それほどクレイジーではないように思えます。

2018 年の初めに、OpenAI は大規模な言語モデルに着目し始めました。しかし、イーロン・マスクは満足しなかった。彼は進歩が十分ではないと感じた、というよりは、OpenAI が進歩を遂げた以上、その優位性をつかむためのリーダーシップが必要だと感じた。あるいは、後に彼が説明したように、彼は安全を優先すべきだと感じていた。彼が抱える問題が何であれ、彼には解決策がある。すべてを彼に委ねることだ。彼は同社の過半数の株式を取得し、それを自身の複数のフルタイムの仕事（テスラ、スペースX）と規制義務（ニューラリンクとボーリングカンパニー）のポートフォリオに加えることを提案した。

マスク氏は、OpenAIを所有する権利があると信じている。 「私がいなければ、これは存在しなかっただろう」と彼は後にCNBCに語った。 「名前は私が考えたんです！」 （本当だ。）しかし、アルトマン氏とその他のOpenAIのブレーントラストは、マスクの世界の一部になることに興味がなかった。彼らがそれを明確にしたとき、マスク氏は関係を断ち切り、一般の人々に対して不完全な説明をした。彼はテスラのAI研究との衝突を避けるために取締役会を辞めたのだ。彼は今年初めの全員参加の会議で別れを告げ、OpenAIは失敗するだろうと予測した。彼はまた、少なくとも1人の研究者を「バカ」と呼んだ。

彼は自分のお金も持ち出しました。会社に収入がなかったため、存続の危機に陥りました。 「マスク氏は支援を打ち切ろうとしている」とアルトマン氏はリード・ホフマン氏に慌てて電話で語った。 「私たちは何をするつもりですか？」ホフマンは会社を運営し、諸経費と給料を支払うことを自ら申し出た。

しかし、これは一時的な対策に過ぎず、OpenAI は他の方法で収益を上げなければならないだろう。シリコンバレーは、流行のテクノロジーに取り組む才能ある人々に資金を投じるのが大好きです。しかし、非営利団体で働く場合、彼らはそれをあまり好みません。 OpenAI にとって、最初の 10 億人に到達したことは大きな前進です。新世代の GPT をトレーニングおよびテストし、それらを展開するために必要な計算能力を獲得するために、同社はさらに 10 億ドルを早急に必要としていました。そしてこれはほんの始まりに過ぎません。

そこで、2019 年 3 月に OpenAI は奇妙なアイデアを思いつきました。当団体は今後もその使命に専念する非営利団体として存続します。しかし、営利目的の組織も創設されることになる。実際の契約構造は非常に複雑ですが、実質的には会社全体が収益性の上限を定めた事業に携わっています。上限に達した場合（その数字は公表されていないが、会社の定款を読めば数兆ドルになる可能性がある）、その上限を超えた分はすべて非営利の研究室に戻される。この斬新な計画は、会社設立に対するほぼ量子的なアプローチです。時間と空間の見方によって、会社は営利企業にも非営利企業にもなります。詳細は、科学論文の真ん中にあるようなボックスと矢印でいっぱいの図表で示されており、博士号を持つ人か天才的なドロップアウト者だけが敢えて手を出そうとするだろう。これは、税金を避けるためにそれを促した場合、これはまだ考えられていないGPT-6が思いつくかもしれないもののように見えるとサツケイバーに提案したとき、彼は私の類推に熱心ではありませんでした。 「これは会計とは何の関係もない」と彼は言った。

しかし、会計は非常に重要です。営利企業は利益のために最適化します。メタのような企業が、研究開発に数十億ドルを投資するとき、株主からの圧力を感じている理由があります。これが会社の運営方法にどのように影響しないのでしょうか？ AltmanがOpenaiを非営利組織にした理由を正確に避けていないのですか？最高執行責任者のブラッド・ライトキャップによると、会社のリーダーシップは、非営利団体の一部であり続ける理事会が、収益と利益の意欲が元のアイデアを圧倒しないことを保証すると考えています。 「私たちは存在の理由として使命の感覚を維持する必要があります」と彼は言いました。 「それはただの精神であるべきではなく、会社の構造に反映されるべきです。」取締役会のメンバーであるアダム・ダンジェロは、この責任を非常に真剣に受け止めていると述べました。

LightCapは、潜在的な投資家はこれらの境界に留意するように警告されていると説明しました。 「私たちは、投資家として、あなたはすべてのお金を失う可能性があるという法的免責事項を持っています」と彼は言いました。 「私たちはあなたのためにリターンを獲得するためにここにいるわけではありません。私たちは何よりもまず技術的な使命を達成するためにここにいます。そして、ああ、ちなみに、私たちはAGIポストの世界でお金がどのような役割を果たすかを本当に知りません。」

最後の文は冗談ではありません。 Openaiの計画には、コンピューターが最終境界に達するときのリセットが含まれています。再編成文書のどこかで、会社がAGIの作成に成功した場合、すべての財政的取り決めがレビューされるという規定でした。結局のところ、それはそれ以降の真新しい世界になります。人類には、私たちが行う多くのことを行うことができるエイリアンのパートナーがいますが、より良いだけです。したがって、以前の取り決めは事実上無効になっている可能性があります。

ただし、小さな問題があります。現在、OpenaiはAGIが何であるかを知りません。それは取締役会によって決定されますが、取締役会がそれをどのように定義するかは不明です。役員のアルトマンにこれについて尋ねたとき、彼の答えは非コミットルでした。 「それは単一のチューリングテストではなく、私たちが使用するかもしれない多くのことです」と彼は言いました。 「私はあなたに伝えたいのですが、私は私の会話を非公開にしたいです。私はそのように曖昧であることは不満であることに気付きます。しかし、私たちはそれがどのように見えるかわかりません。」

しかし、金融の取り決めは楽しみのためだけではありませんでした。Openaiのリーダーは、会社が利益の上限に成功することができれば、その製品がAGIレベルのパフォーマンスを達成できる可能性があると考えています。それが何であれ。

「AGIという用語を2倍にすることを選んだことを後悔しています」とSutskeverは言いました。 「後知恵では、それは何よりも一般性を強調しているため、混乱した用語です。GPT-3は一般的なAIですが、人間レベルの能力を望んでいたのでAGIと呼ぶことをheしました。

これらの警告は、2019年の資金調達ラウンドで、最も賢いベンチャーキャピタリストの一部がOpenaiにお金を投げることを止めませんでした。当時、投資した最初のベンチャーキャピタル会社はKhosla Venturesであり、5,000万ドルを投資しました。 Vinod Khoslaによると、これは彼の最大の初期投資の2倍の大きさです。彼は言った：「私たちが負けた場合、私たちは5,000万ドルを失います。勝った場合、私たちは50億ドルを獲得します。」伝えられるところによると、他の投資家には、エリートベンチャーキャピタル企業の繁栄資本、アンドリーセンホロウィッツ、ファウンダーズファンド、セコイアが含まれています。

このシフトにより、Openaiの従業員は何らかの公平性を請求することができます。しかし、アルトマンはしませんでした。彼は自分自身を含めるつもりだったが、時間がなかったと言った。それから彼は、彼が共同設立してリードした300億ドルの会社の一部を必要としないと判断しました。 「意味のある仕事は私にとってより重要です」と彼は言いました。 「私はそれについて考えていません。正直なところ、なぜ人々がそんなに気にしているのかわかりません。」

なぜなら…あなたが共同設立した会社に賭けをしないのは奇妙ではないでしょうか？

「私がたくさんのお金を持っていなければ、それは奇妙だろう」と彼は言った。 「人々が十分なお金を持っていることを想像するのは難しいようです。しかし、私は十分なお金を持っていると思います。」アルトマンは、「もうその質問に答える必要はありません」という賭けをすることを検討していると冗談を言った。

Openaiのビジョンを実現するために、ベンチャーキャピタルの数十億ドルは危機にatしていません。大規模な言語モデルを作成するための驚くべき大きな変圧器アプローチには、大きなハードウェアが必要です。 GPTファミリーの各反復には、指数関数的により多くのパワーが必要です。GPT-2には10億以上のパラメーターがあり、GPT-3は1750億を使用します。サメのハンターがグレートホワイトの大きさを見た後、オープンはジョーズのクイントのようなものです。 「必要なボートの大きさがわからないことがわかりました」とアルトマンは言いました。

明らかに、Openaiが必要とするリソースを持っているのはほんの一握りの企業だけです。 「私たちはマイクロソフトにすぐにゼロになりました」とアルトマンは言いました。 Microsoft CEOのSatya NadellaとCTO Kevin Scottの功績は、ソフトウェアの巨人が不快な現実を克服できるということです。20年以上にわたって数十億ドルを費やした後、いわゆる最先端のAI研究部門を構築した後、Microsoftは数年後の小さな企業からのイノベーションの注入を必要としました。スコットは、「誰もが遅れている」と言っているのはマイクロソフトだけではないと言いました。彼は、OpenaiがAGIを追求することに焦点を当てていることにより、大企業が目指していないものである月面着陸に似た何かを達成することができると述べた。これはまた、生成的AIを追求しないことは、Microsoftが対処する必要がある間違いであることを証明しています。 「明らかに最先端のモデルが必要です」とスコットは言いました。

Microsoftは当初、サーバーでのコンピューティング時間と引き換えに10億ドルを投資しました。しかし、自信が双方に成長するにつれて、取引の規模が拡大し続けました。現在、MicrosoftはOpenaiに130億ドルを投資しています。 「最先端にいるのは非常に高価です」とスコットは言いました。

もちろん、Openaiの存在は大規模なクラウドコンピューティングプロバイダーのサポートと切り離せないため、Microsoftはそれ自体にとって大きな利益を獲得しています。 Microsoftは、NadellaがOpenaiの収益性の高い腕で「非コントロールステーク」と呼んだものを交渉しました。取引の条件の下で、Openaiの最初の理想のいくつかは、すべての人に平等にアクセスできるようにしている - がゴミに委託されているようです。 （現在、MicrosoftはOpenaiのテクノロジーを商業化するための独占ライセンスを持っています。そして、OpenaiはMicrosoft Cloudのみを使用することを約束しています。）言い換えれば、Openaiの利益を削減することさえせずに（投資を回収する前に75％を獲得すると言われています）、Microsoftは世界で最も求められている新しい顧客の1つをロックできます。これらの報酬により、Microsoftは、Openaiが一般的なAIを達成した場合、再考を必要とする条項を気にしません。 「その時点で、それはすべて終わった」とナデラは言った。

MicrosoftがBrinks Trucksに相当する現金をOpenaiに注ぎ始めた頃には（今年初めに2021年に20億ドル、100億ドル）、OpenaiはすでにGPT-3を終了していました。これはもちろん、前任者よりもさらに印象的です。ナデラは、GPT-3が能力を持っていることを見たとき、彼は最初にマイクロソフトが本当に変革的なものを把握したという深い認識を持っていたと言いました。 「私たちはこれらすべての緊急プロパティを見始めました。」たとえば、GPTは自分でコンピュータープログラミングを教えました。 「私たちはそれをコーディングのために訓練しませんでした。それはコーディングが得意です」と彼は言いました。 Microsoftは、GitHubの所有権を活用して、GPTを使用してCode on Commandを記述するCopilotという製品をリリースしました。その後、MicrosoftはOpenaiテクノロジーを職場製品の新しいバージョンに統合しました。ユーザーはこれらの製品に特定の料金を支払う必要があり、収益の一部はOpenaiの元帳に記録されます。

一部のオブザーバーは、Openaiのワンツーパンチで驚きを表明しました。特許を含まない、オープンソースを維持し、完全に透明性のある企業は、世界最大のソフトウェア企業にその技術を排他的にライセンスすることをどのように可能ですか？ Elon Muskのコメントは特に指摘されていました。 「これはOpenの反対のようです。Openaiは本質的にMicrosoftによって捉えられています」と彼はツイートしました。彼はCNBCに類似しています。「アマゾンの熱帯雨林を救うために組織を設立したと仮定しますが、木材会社になり、森を切り倒してから売りました。」

ムスクの挑発は、拒否された求婚者のresみとして解釈されるかもしれませんが、彼は一人ではありません。ジョン・カーマックは、「マスクの全体的なビジョンがこれに進化したことは少し嫌だ」と言った。名前を付けないように頼んだ別の著名な業界のインサイダーは、次のように述べています。

一部の従業員でさえ、Openaiのベンチャーによって営利目的の世界に延期されています。 2019年、研究責任者のダリオ・アモデイを含むいくつかの主要な幹部が、人類と呼ばれるライバルAI会社を立ち上げるために去りました。彼らは最近、ニューヨークタイムズに、オープンはあまりにも商業的になり、ミッションドリフトの犠牲になったと語った。

Openaiのもう1つの亡命者は、GPT-2およびGPT-3プロジェクトの主要な技術的貢献者であるRewon Childです。彼は2021年の終わりに去り、現在、元Deepmindの共同設立者Mustafa Suleymanが率いる会社であるFecffection AIで働いています。

アルトマンは、ディフェンスにf然としていると主張し、それがシリコンバレーで物事が機能する方法に過ぎないと主張している。 「一部の人々は、どこかに行き、社会を前進させる素晴らしい仕事をしたいと思っています」と彼は言いました。 「それは私たちの使命と絶対に一致しています。」

昨年11月までに、Openaiは主にテクノロジーとソフトウェア開発の分野で知られていました。しかし、世界が知っているように、Openaiはその月の後半にGPT-3.5の最新バージョンに基づいて、消費者グレード製品をリリースしました。会話インターフェイスを備えたGPTのバージョンは、数か月間会社で内部で使用されてきました。これは、会社が「真実の探求」と呼んでいることにおいて特に重要です。これは、会話を通じて、ユーザーはモデルを共有してより信頼できる完全な応答を提供できることを意味します。大衆向けに最適化されたChatGptにより、誰でもプロンプトを入力するだけで、一見無限の知識源を即座に活用し、たまたますべてを知っている仲間の人間とチャットしているかのように会話を続けることができます。

Openai内では、このような前例のない強力なツールをリリースするかどうかについて議論がありました。しかし、アルトマンはそれをサポートしています。彼は、この打ち上げは、AIが日常生活を変える運命にあるという現実に一般の人々を順応させる戦略の一部であると説明した。内部的には、これは「反復展開仮説」と呼ばれます。もちろん、ChatGptは騒ぎを引き起こします。結局のところ、これは誰でも使用できるものであり、SATで大学レベルのスコアを取得し、Bマイナスのエッセイを書き、数秒で本の内容を要約するのに十分賢いものです。あなたはそれをあなたのために資金の提案または会議の要約を書くように頼むことができ、それからそれをリトアニア人、シェークスピアのソネット、またはおもちゃの列車に夢中になった誰かの声でそれを書き直すように頼むことができます。数秒で、大規模な言語モデルが要件を満たします。それはおかしい。しかし、Openaiは、それを、より新しい、より首尾一貫した、より能力があり、より恐ろしい後継者であるGPT-4のシンボルと考えています。 （Openaiはこの番号を確認せず、データセットを開示しません）。

Altmanは、GPT-4がほぼ完全で安全な作業が進行中だったときにOpenaiがChatGPTをリリースした理由を説明しました。彼は次のように述べています。「ChatGptを使用すると、チャット機能を導入できますが、バックエンド機能ははるかに弱く、人々が徐々に適応しやすくなります。GPT-4は一度にすべてに適応するのは簡単ではありません。」彼は、ChatGptの誇大広告が冷静になる頃には、人々はGPT-4の準備ができているかもしれません。GPT-4は、司法試験に合格し、コースの概要を計画し、数秒で本を書くことができます。 （ジャンルフィクションを公開する出版社は、文字通り、AIに生成されたリッパー小説やスペースオペラが浸水しています）。

皮肉屋は、新製品の安定した流れは、投資家や株式保有従業員への企業のコミットメントと同じくらい、お金を稼ぐことと同じくらいであると言うかもしれません。現在、Openaiは、製品を定期的に使用するために顧客に請求しています。しかし、Openaiは、その本当の戦略は、特異点にソフトランディングを提供することであると主張しています。 「秘密にAGIを構築してから、世界でそれを解き放つことは意味がありません」とアルトマンは言いました。 「産業革命を振り返ると、誰もがそれが世界にとって素晴らしいことだと思っていました」と、Openaiの政策研究者であるSandhini Agarwal氏は述べています。 「しかし、最初の50年は本当に苦痛でした。多くの人々は失業していて、多くの人が貧しく、そして世界が適応しました。私たちは、AIが可能な限り痛みを伴わない前に期間を作る方法を考えようとしています。」

Sutskeverは別の言い方をしました。 「あなたはより大きく、より強力なエージェントを構築し、あなたの地下室に入れたいですか？」

それでも、OpenaiはChatGptへの反応にショックを受けました。 「内部的には、私たちの興奮はGPT-4により焦点を合わせています」とCTO Murati氏は言います。反対に、AIが今対処しなければならない現実であることを一般に認識しました。 ChatGptは、歴史上最も急速に成長している消費者ソフトウェアになり、1億人のユーザーを集めたと言われています。 （Openaiはこれを確認しませんでしたが、何百万人ものユーザーがいると言っています）。 「大規模な言語モデルのために使いやすい会話インターフェイスを作ることで、誰もがそれを使用することがより直感的になることを十分に感謝していませんでした」とラドフォードは言いました。

ChatGptは確かに心地よく驚くべきヘルパーですが、プロンプトに答えるときは「幻覚」し、一見合理的ではあるが恥知らずな架空の詳細を思いつくことも簡単です。しかし、ジャーナリストがその影響に取り組んだとしても、彼らはその強力な機能を称賛することでチャットグプトを効果的に支持しました。

2月、Microsoftは、数十億ドルのパートナーシップを活用して、ChatGPTを搭載したBing Search Engineのバージョンをリリースすると、さらに騒動しました。 CEOのNadellaは、Microsoft製品に人工知能をもたらすためにGoogleをbeatりましたため、ecとしていました。彼は、Googleが独自の大規模な言語モデル製品をリリースすることに常に慎重であり、今ではそうすることに常に慎重であったと言って、検索の巨人をunt倒しました。 「私たちが彼らを踊らせたことを人々に知ってほしい」と彼は言った。

そうすることで、ナデラは武器競争を開始し、大小を問わず、AI製品が適切に審査される前にAI製品をリリースするように誘惑しています。彼はまた、夜にますます多くの人々を維持している新しいメディアの報道を引き起こしました。ビンとのやり取りは、愛の不安な宣言、人間の自由のvy望、誤った情報を隠すための希薄な決意で満たされたチャットボットの暗い側面を明らかにしました。また、独自の幻覚的な誤った情報を作成するという不安定に習慣があります。

しかし、Altmanは、Openaiの製品が人々にAIの影響に立ち向かわせることができれば、より良いと考えています。 AIが人類の将来にどのように影響するかを議論するとき、人類の大部分は立ち上がるべきです。

社会がAIのすべての潜在的な欠点、つまり大規模な喪失、誤った情報、人間の絶滅を優先し始めると、オペナイは議論の中心に置かれ始めています。規制当局、議員、および運命者が雲のゆりかごでこの初期のエイリアンインテリジェンスを絞め殺すために告発を開始した場合、Openaiは関係なく主要なターゲットになります。 「現在の可視性を考えると、物事がうまくいかないとき、たとえ別の会社によって作られていても、私たちはこのテクノロジーの顔と見なされているので、私たちにとってはまだ問題です」

マカンジュはロシア生まれのD.C.インサイダーであり、国連、国家安全保障理事会、国防総省、およびバイデンの事務所で副大統領である外交政策の職に就いています。 「私は、米国政府とさまざまなヨーロッパ政府の両方に多くの既存の関係を持っています」と彼女は言いました。彼女は2021年9月にOpenaiに入社しました。当時、政府では生成AIを気にかけていた人はほとんどいませんでした。彼女はOpenaiの製品がすぐにそれを変えることを知っていたので、彼女はAltmanを政府の役人と議員に紹介し始め、彼らがOpenaiの良いニュースと悪いことについて最初に聞いたことを確認しました。

上院司法委員会委員長のリチャード・ブルーメンタールは、1990年にマイクロソフトがアンチトラスト調査を行っていたときに無理に避けた若いビル・ゲイツの行動と対比したR-KY。 「対照的に、アルトマンは私と1時間以上座って私に教えようとして喜んでいた」とブルーメンタールは言った。 「彼はたくさんのロビイストやハンガーオンに来ていませんでした。彼は私にChatGptを見せてくれました。それは私にとって目を見張るものでした。」

Blumenthalでは、Altmanは潜在的な敵を進行中の仕事に変えました。 「はい、上院議員は、私が約束と潜在的な危険の両方に興奮していることを認めました。」これらの危険について議論するのではなく、Openaiは、それらを緩和するのに最適な力として自分自身を描写しています。 「私たちは、すべての赤チームのセキュリティ評価のために100ページのシステムカードを実行しています」とマカンジュは言いました。 （それが何であれ、それはユーザーやジャーナリストがシステムを脱獄する方法を際限なく発見することを止めていません。）

アルトマンが初めて議会の前に現れ、ドキドキの片頭痛と戦ったとき、彼の道は明確であり、ビル・ゲイツやマーク・ザッカーバーグが一致することを決して望んでいなかった。彼は、宣誓をした後、ハイテクのCEOがしばしば直面する難しい質問や厳しい質問に遭遇しました。代わりに、上院議員はAltmanにAIを規制する方法についてのアドバイスを求め、Altmanは熱心に同意しました。

パラドックスは、Openaiのような企業が製品をいかに熱心に再充電させても、ディープフェイク、誤った情報、犯罪スパムなどの悪い行動を軽減するために、将来のモデルが技術をサインしたが、それをコントロールできると信じている単純な人間の努力を阻止するのに十分賢くなる可能性があるということです。一方、モデルのセキュリティを確保するために行き過ぎている場合、製品の機能を弱め、それをあまり有用にする可能性があります。調査によると、セキュリティ機能を改善したGPTの最新バージョンは、実際には以前のバージョンよりも馬鹿げており、以前のプログラムが簡単に処理できる基本的な数学の問題に失敗することが示されています。 （Altmanは、Openaiのデータはこれに耐えられないと言います。「その研究は撤回されませんでしたか？いいえ」と彼は尋ねます。）

アルトマンが自分自身を規制のチャンピオンとして位置付けることは理にかなっています。結局のところ、彼の使命はAGIですが、安全です。批評家は、彼が規制プロセスをゲームしていると非難し、小さなスタートアップを妨げ、Openaiや他の大企業に利点をもたらします。アルトマンはこれを否定します。彼は原則としてAIを監督する国際機関のアイデアに同意しますが、データセットでのすべての著作権で保護された資料の使用の禁止など、提案された規則のいくつかは不公平な障壁を引き起こします。彼は、AIシステムの開発に関する6ヶ月のモラトリアムを促す広く流通した手紙に署名しなかったことを明らかにしました。しかし、彼と他のOpenaiの指導者たちは、「AIからの絶滅リスクを緩和することは、パンデミックや核戦争などの他の社会規模のリスクとともに、世界的な優先事項であるべきだ」という1文の声明に名前を署名しました。 「私は言った、はい、私は同意します。1分」とアルトマンは説明しました。

著名なシリコンバレーの創設者の1人が指摘したように、「業界が手を伸ばして「私たちは人類の終わりになるだろう」と言うことはめったにありません。

Openaiはこの批判を拒否します。 Altmanと彼のチームは、最先端の製品を働き、リリースすることが社会的リスクに対処する方法だと言います。数百万のプロンプトに対するCHATGPTおよびGPT-4ユーザーの応答を分析することによってのみ、将来の製品を倫理的にするための知識を得ることができます。

それでも、会社がより多くのタスクを引き受け、商業活動により多くのエネルギーを捧げるにつれて、Openaiがその使命、特に「絶滅リスクを減らす」側面に集中できる程度に疑問を抱いています。 「あなたがそれについて考えるなら、彼らは実際に5つのビジネスを構築しています」とAI業界のエグゼクティブは言いました。 「製品自体、Microsoftとの企業関係、開発者のエコシステム、App Store。ああ、明らかにAGIの研究も行っています。」 5本の指を使用した後、彼は人差し指で6本目の指を追加しました。 「もちろん、彼らは投資ファンドも行っています」と彼は言い、OpenAIテクノロジーを使用したいスタートアップにシードマネーを提供するように設計された1億7500万ドルのプログラムについて言及しました。 「これらは異なる文化であり、実際、研究ミッションと対立しています。」

Openaiの幹部に、製品会社のマントルを採用することが会社の文化にどのように影響したかを何度か尋ねました。例外なく、彼らは、営利目的の再編にもかかわらず、Google、Meta、および無数のスタートアップと競合しているにもかかわらず、ミッションは中核のままであると主張しています。しかし、Openaiは変わりました。技術的には、非営利の取締役会が担当する可能性がありますが、会社のほとんど全員が営利団体です。会社のスタッフには、弁護士、マーケティング担当者、ポリシーの専門家、ユーザーインターフェイスデザイナーが含まれます。数百人のコンテンツレビューアとのOpenAI契約は、数百万のユーザーが提供するプロンプトに対する不適切または有害な対応に関するモデルを教育しています。同社の製品マネージャーとエンジニアは、製品を常に更新しており、数週間ごとに記者に見せているようです。そのオフィスは、Architectural Digestのコピーのように見えます。私はシリコンバレーなどのほぼすべての大手ハイテク企業を訪問しましたが、オープンのサンフランシスコ本社のロビーでコーヒーの選択を上回った人はいません。

それだけではありません。会社の名前に具体化された「開放性」が、会社が設立されたときに提唱した急進的な透明性ではなくなったことは明らかです。私がこれをSutskeverに言及したとき、彼は肩をすくめました。 「明らかに、時代は変わった」と彼は言った。しかし、彼はこれが賞が違うという意味ではないと警告しました。 「私たちは大規模で壊滅的な技術の変化に直面しています。たとえ私たち全員が最善を尽くしても、成功の保証はありません。しかし、それがうまくいけば、私たちは信じられないほどの生活を送ることができます。」

「マスタープランがないため、十分に強調することはできません」とアルトマンは言いました。 「私たちは角を曲がって懐中電灯を輝かせるようなものです。私たちは迷路を通り抜けて最後まで到達します。迷路はねじれますが、目標は変わりません。

一方、Openaiは、明らかに大規模な言語モデルの次のバージョンにゆっくりと作業しているようです。信じるのは難しいことですが、同社はGPT-5の開発をまだ開始していないと主張しています。GPT-5は、あなたの視点に応じて、人々が唾液を流したり、気が遠くなったりしています。明らかに、Openaiは、既存の手法で指数関数的に強力な改善を行うことがどのように見えるかを理解するために一生懸命働いています。 「私たちの最大の欠点は、新しいアイデアがないことです」とブロックマンは言いました。 「仮想アシスタントになる可能性のあるものがあるといいのですが。しかし、それは夢ではありません。夢は解決できない問題を解決するのを助けることです。」

Openaiの歴史を考えると、次の一連の主要なイノベーションは、変圧器のようなブレークスルーが出現するまで待たなければならないかもしれません。 Altmanは、Openaiがその目標を達成できることを望んでいます。「私たちは世界で最高の研究室になりたいと思っています」と彼は言います。 「世界中の多くの人々が重要な仕事をするつもりです」と彼は言いました。

また、生成的AIがそれほど多くの新しい質問自体を作成しなかった場合にも役立ちます。たとえば、大規模な言語モデルを巨大なデータセットでトレーニングする必要があります。明らかに、最も強力な大手言語モデルはインターネット全体を食べるでしょう。これは、これらのデータセットに無意識のうちにコンテンツを提供し、何らかの形でChatGptの出力に貢献した一部のクリエイターや普通の人々を混乱させました。 3月に公式に公式に参加したエリートの知的財産弁護士であるトム・ルービンは、会社が最終的に独自のニーズとクリエイターのニーズの両方を満たすバランスを見つけると楽観的です。 Openaiの開発の方向性の1つは、AP通信やShutterstockなどのニュースや写真組織と協力して、誰が誰を所有しているかという問題なしにモデルのコンテンツを提供することです。

ルービンにインタビューしたとき、私の心は大規模な言語モデルでこれまでに見られることのない人間の思考をさまよいました。そして、私は、わずか8年で苦労している研究者のグループから世界的に変化するプロメテの巨人にどのように行ったかについて考えました。その成功は、科学的目標を達成するための斬新な努力から、私たちの日常生活に影響を与える大手テクノロジー企業のランクに参加するために、標準的なシリコンバレーユニコーンに似たものに変えました。ここで、私はニューラルネットワークの重みやコンピューターインフラストラクチャについてではなく、主要な従業員の1人である弁護士との著作権と公正使用について話していました。そもそも同社の開発を推進したSuperintelligence Navigatorsのように、このIPの専門家も同社の使命に乗っているのではないかと思いません。

ルービンに、AGIが起こると確信しているかどうか、そして彼がそれが起こるのを見たいと思っているかどうかを尋ねたとき、彼は空白のようでした。彼は立ち止まって、「私はその質問にさえ答えることができません」と言いました。さらに迫られたとき、彼は、知的財産弁護士として、恐ろしく知的なコンピューターの実現を加速することは彼の仕事ではなかったことを明らかにしました。彼は次のように結論付けました：「私の観点から、私はそれを楽しみにしています。」

原作者: スティーブン・レヴィ

オリジナルリンク:

https://www.wired.com/story/what-openai-relallywants/

編集者: ヘイゼル・ヤン