執筆：比推Bitpush

シリコンバレーで最も高額な「別れ話」の詳細が、ついにすべて明らかになった。

このほど『The Atlantic』は、米国の著名なベストセラー作家でポッドキャスト司会者のKevin Rooseによる新著『The AGI Chronicles』の初回抜粋を公開した。Rooseはこの本のために、OpenAI、Anthropic、Google DeepMindの内部関係者150人以上に取材し、大量の未公開の社内文書や内部メモを加えて、シリコンバレーで最も衝撃的な決別の過去を組み立てた。

Dario Amodeiが2020年末に仲間を連れてOpenAIを離れ、Anthropicを創業したことだけを知っているなら、それは氷山の一角にすぎない。本当に驚かされるのは、彼が去る前の「宮廷ドラマ」だ。

「国家計画」：AGIを競売にかける狂気の提案

AmodeiはかつてOpenAIに大きな期待を寄せていた。2016年、彼はグーグルを離れ、この若い非営利研究機関に加わった。Rooseの記述によれば、彼はOpenAIを大規模言語モデルの路線へと導いた重要人物であり、率いたチームはGPT-2とGPT-3の開発に参加した。

研究が進展するにつれ、Amodeiは、より大規模なモデルがAGI（汎用人工知能）につながる可能性をますます信じるようになった。しかし同時に、会社のリーダーシップへの信頼は絶えず薄れていった。

彼が最も長く心に引っかかっていた出来事のひとつは、2017年に起きた。

当時、マスクによるOpenAIへの資金支援が揺らぎ始め、研究所は新たな活路を急いで探す必要があった。共同創業者のGreg BrockmanとチーフサイエンティストのIlya Sutskeverは、後に「countries plan（国家計画）」と呼ばれる内部案を提示した。

この案は当初はまだ体裁が整っており、国際連合のようなものを構想し、みんなでAGIのリスクを管理し、利益を分かち合うというものだった。

しかし、BrockmanとSutskeverが内部会議で正式に従業員に提示したときには、様相は完全に逸脱していた。それは、将来のAGI技術の使用権を各国政府に「競売」にかける資金調達活動へと変わっており、挙げられた国には米国、中国、ロシアが含まれていた。

二人の理屈はこうだ。AGIのようなものは国家安全保障に関わるため、各国政府はいずれ、それを作った会社から奪い取るだろう。どうせ渡さなければならないのなら、今資金が不足しているうちに高く売ったほうがいい、と。

このプレゼンを聞いたある関係者はこう吐き捨てた。「まるでテック系の連中がクレイジーなスタートアップ企画を売り込んでいるようで、最後には『政府に払わせればいい』と言うだけだった」。

Dario Amodeiは当時、OpenAIの研究担当副社長だった。彼は話を聞き終えると、Brockman、Sutskever、その他の幹部に直接メールを送った。その言葉遣いはかなり手厳しいものだった。彼はメールの中で、この計画は「軍拡競争を減らすどころか激化させる」ものであり、「人権侵害」につながりかねず、自国民に対して「言葉にできないこと」をさせる可能性があり、そして「OpenAIの道徳的正統性を損なう」と書いた。

人間の言葉に翻訳すればこうだ。人類で最も強力な技術を彼らに売るつもりか？正気か？

幸い、その後のマイクロソフトによる巨額投資が窮地を救い、この計画は結局実現しなかった。OpenAI側の回答は、同社は「OpenAIを国際協力事業に転換するかどうかを一時的に検討した」が、「AGIを中国やロシアに売却することは検討しなかった」というものだ。

この案は最終的に実現しなかったが、Amodeiは、経営陣がこれほど反感を抱かせるアイデアを真剣に議論していたことを忘れなかった。

マイクロソフトからカニエまで、信頼の亀裂は深まるばかり

その後、一見もっと些細な出来事も、彼の不信感を絶えず深めていった。

GPT-3のクローズドテスト期間中、AmodeiはAltmanに、モデルの使用を許可された顧客リストを求めた。Altmanはひとつのリストを渡したが、Amodeiは、後になって別の、より長いリストを発見したと主張している。彼は、自分が見た情報が選別されたものではないかと疑い始めた。

そして、マイクロソフト投資をめぐるある口論が、彼の疑念をさらに深めた。

OpenAIの公開定款には、かなり特異な取り決めがあった。価値観が一致し、安全性を重視するプロジェクトが先にAGIの実現に近づいた場合、OpenAIはそのプロジェクトとの競争をやめ、相手を支援するというものだ。これは、特定の状況下では、会社の使命が競争に勝つことよりも優先されるべきだという意味だ。

Rooseの新著によれば、マイクロソフトと10億ドルの投資を交渉する際、Amodeiは、この約束を実行するために使われる可能性のあるOpenAIの買収取引をマイクロソフトが受け入れることを確実にしたかった。Altmanは彼に、マイクロソフトは関連条件を受け入れないと伝えた。

Amodeiは、事態がそれほど単純だとは信じなかった。彼は、Altmanが取引を早く成立させるために、交渉を諦めたか、そもそも要求すらしていないのに、責任をマイクロソフトに転嫁したのではないかと疑った。

Amodeiの目には、問題はもはやビジネス上の議論では解決できないものに映っていた。彼はすでに、向かいに座るAltmanが交渉の全経緯を自分に正直に話す気があるのかどうかを疑い始めていた。

2020年になると、Kanye West（カニエ）——後にヒトラーへの崇拝を公言したあのラッパーだ——が、この積み重なる不満のリストに思いがけず登場した。

Rooseは2人の関係者の話として、Altmanがカニエに会った後、彼をGPT-3のプライベートクローズドテストに参加させることを提案したと伝えている。

当時GPT-3はまだ一般公開されておらず、OpenAIのとっておきの中核資産だった。当時OpenAIのポリシーディレクターだったJack Clarkがこの提案を止めた。彼は、カニエが少し前にグラミー賞のトロフィーに放尿しているように見える動画を公開しており、その公の行動が懸念されると指摘した。そして、ほどなくして、カニエはヒトラーへの崇拝を公言し始めた。

この招待は通らなかったが、Altmanの判断力に対するAmodeiの不満をさらに強めた。Rooseは、こうした出来事は個別に見れば、大半は彼が辞職するには至らないものの、積み重なれば、AltmanがAGIのような強力な技術を掌握するのにふさわしいとは信じられなくなった、と書いている。

Rooseは本の中で、2020年までにAmodeiはOpenAIのリーダーシップに完全に失望していたと明かしている。彼はAltmanを「二枚舌の操縦者」と評し、Brockmanを「権力欲にまみれ、軽率な行動をとる」と考えていた。

実は、彼らの間の核心的な対立は、たった二文字に集約される。信頼だ。

AmodeiはOpenAI在職中、Altmanが自分を誤解させたと感じた瞬間を、ずっと内緒でメモに書き留めていたという。

そのメモのひとつに、彼はこう書いた。「OpenAIの問題はSam自身にある」。

派閥を作り、小グループを作る？

一方、OpenAI内部でも、Amodeiに我慢できなくなる人が増えていた。

Rooseの報道によれば、Amodeiと妹のDanielaは、徐々に理念の近い同僚を引き寄せていった。彼らはプライベートなチャットチャンネルを作り、別々に会議を開き、頻繁に安全性の問題を議論した。輪の外にいる一部の従業員から見れば、このグループはますます協働しにくい存在になっていた。

ある元同僚はRooseに、Amodeiはしばしば、ある選択が道徳的に正しいと決めつけ、安全を引き合いに出せば議論は終わるべきだという態度を取る、と不満を漏らした。これには他のチームも大いに苛立った。

Amodeiは、商業目標が常に安全への約束を押しのけると感じていた。一方、一部の同僚は、彼が安全を反論しにくい理由に変えてしまったと考えていた。互いへの不満は、こうして具体的な決定から仕事のやり方や人格評価へと広がっていった。

最終的に、対立はひとつの実質的な権力に集中した。安全チームは新製品のリリースを拒否できるのか、という点だ。

Rooseの報道によれば、Amodeiは退職前にAltmanに対し、安全チームにそうした拒否権を与えることなどを含む一連の残留条件を提示した。彼は、中核研究者が集団で離れるかもしれないという圧力が、Altmanに変化を受け入れさせることを期待していた。

秘密のグループチャットで、「分家」のカウントダウンが始まる

交渉が進む一方で、退路もすでに準備されていた。

Amodeiは6人の同僚とプライベートなSlackチャンネルを立ち上げた。名前は「BATNA」、つまり交渉が合意に至らなかった場合の最善の代替案（Best Alternative to a Negotiated Agreement）だ。メンバーには妹のDaniela、そしてJack Clark、Sam McCandlish、Tom Brown、Chris Olah、Jared Kaplanが含まれていた。

このグループの名前自体が、彼らの当時の状況を物語っている。まだ交渉中だが、すでに去る準備はできていた、ということだ。

残留条件が折り合わず、双方は弁護士を立て、内部で「the divorce（離婚）」と呼ばれる協議を始めた。

Rooseの報道によれば、Altmanはこのグループに対し、数週間のOpenAI従業員採用の猶予期間を与えることに同意し、その見返りとして、その後1年間は人材を引き抜かないこと、また公の場で互いを貶めないことを取り決めた。

2020年12月、OpenAIは全員参加のオンライン会議を開いた。

冒頭は普段と変わらないように見えた。Altmanが研究の進展を報告し、新入社員を紹介し、それからAmodeiに話を振った。

続いてAmodeiは、自分と他の6人の責任者が退社し、AIの安全性を重視する新たな機関を設立すると発表した。

Rooseの描写によれば、チャット欄はすぐに驚きのメッセージと絵文字で埋め尽くされ、会議が終わりに近づくと、Jack Clarkがチャット欄に一行打ち込んだ——「I love you all」、そして画面は突然真っ暗になった。

Dario Amodei、妹のDaniela Amodeiを含む7人のOpenAI中核メンバーは、同じ瞬間に会議から追い出され、メールとSlackの権限はその場で取り消された。

そして2021年初頭、Anthropicが設立された。

遺恨はいつ終わるのか

しかし、新たな炉を築いても、Amodeiを悩ませてきた難題から逃れることはできなかった。

Anthropicも同様に、資金調達、計算能力の拡充、より強力なモデルの開発が必要だった。最先端の技術を掌握してこそ、最先端のリスクを研究できる。しかし、最先端に留まるには、継続的な投資が必要であり、競合他社の追い上げにも直面する。会社が成長するにつれ、Amodeiもまた、おなじみの問いに答えなければならなかった。安全、商業、競争が衝突したとき、どれを先に譲るのか。

双方の互いへの恨みも、まったく解消されていない。

関係者によれば、AmodeiはAltmanとOpenAIを「邪悪」と形容したことがある。一方、OpenAI内部の一部の人々も、Amodei兄妹は自分たちを道徳の模範のように装いながら、同じように権力に熱中していると考えていた。彼らは特に、Anthropicが一方でAIのリスクを公に警告しながら、他方で競争への参加を加速させていることに不満を抱いていた。

Rooseは本の中で、こうしたAIのリーダーたちを「敵意が絡み合った蜘蛛の巣」と形容している。HassabisはAltmanを見下し、AmodeiはAltmanを見下し、AltmanはAmodeiを見下し、AltmanはMuskも見下している。

数年が過ぎ、この網は解けるどころか、それぞれに新たな悩みを抱えるようになった。ブルームバーグの報道によれば、Anthropicは最速で11月中旬の上場を目指しており、目標評価額は最高2兆ドル。しかし目論見書は別の一面も示している。2025年の売上高は約46億ドル、営業損失は80億ドル超、さらに今後5000億ドル超を計算能力の構築に投じると約束している。Altmanの側はIPOに慎重な姿勢を崩さず、安全性とアラインメントが片付くまでは急いで上場しないとしているが、OpenAIも最近はAI安全をめぐる事件に悩まされている。

かつてAmodeiは、Altmanを信頼できずに去り、安全への約束が本当に機能する会社を作りたかった。今や彼自身の会社も同じ難題に直面している。成長の持続可能性と安全への懸念、どちらも緩めるわけにはいかない。この問題に、彼らはまだ誰も答えを出していない。

シタデル・セキュリティーズ：2028年までにAIチップの資金調達のための新規債務が5000億ドルを超える

人気記事