OpenAIを去る前、Anthropic社長には「ぬいぐるみ顧問団」がいた

アンソロピック（Anthropic）の共同創業者兼社長ダニエラ・アモデイは、OpenAI在籍時、夫と共にぬいぐるみを使って管理問題を議論するユニークな方法を取っていた。彼らは異なる性格のぬいぐるみに役割を与え、職場の問題に対してそれぞれの「意見」を聞くことで、多角的な意思決定を模擬した。例えば、気ままな猫のジンジは会議を減らすよう促し、几帳面なクマのマウラは細部を重視し、パンダのベアリー・ボンズは共感を加える。この手法は、低コストの思考実験として、異なる人格の視点から問題を再検討するのに有効だった。

一方、アモデイ兄妹はOpenAI内部で経営陣との軋轢が深まり、2020年に退社し、アンソロピックを設立。この分裂は内部で「離婚」と称され、AI安全を重視する新会社の誕生につながった。アンソロピックは当初小規模な研究機関だったが、現在は数千人の従業員を擁し、OpenAIの最大の競合相手に成長。IPO評価額は2兆ドル近くに上る可能性がある。ダニエラはアンソロピックの社長兼取締役会長を務め、研究から事業運営までを統括する。

著者：李佳、華爾街見聞

現在、Anthropicは「AI安全」を同社の中核的なラベルにしているが、この会社の共同創業者兼社長であるDaniela Amodeiが、かつて夫のHolden Karnofskyとともに一群のぬいぐるみを使って経営上の問題を議論していたことを知る人はほとんどいない。

これらのぬいぐるみにはそれぞれ異なる性格が与えられていた。あるものは「会議を減らし、自分に面倒を持ち込まない」ことを専門とし、あるものはルール・細部・実行を重視し、またあるものは意思決定者に思いやりを持ち続けるよう促す役割を担っていた。厄介な職場の問題に直面すると、Danielaと夫はこれらの仮想キャラクターにそれぞれ「意見を述べさせ」、それによって異なるタイプのマネージャーが下しうる選択をシミュレーションした。

このかなり私的で、やや子供じみた過去の出来事は、DanielaがまだOpenAIに在籍していた時期に起きた。そしてまさにこの時期、彼女と兄のDario Amodeiもまた、OpenAIの経営陣との間に徐々に意見の相違を生じさせていた。Danielaは複数の上層部と仕事上で摩擦を起こし、Darioは会社の経営陣および先進AIの発展の方向性に対してますます警戒を強めていった。

2020年、兄妹はついにOpenAIを去ることを決断した。この分裂は後に内部関係者から「離婚」と呼ばれ、Anthropic誕生の起点ともなった。

『The Atlantic』はこのほど、記者Kevin Rooseがまもなく出版する新著『The AGI Chronicles』を引用し、このあまり知られていない経緯を明らかにした。Danielaは2023年にRooseのインタビューに応じた際、この方法は「異なるパーソナリティのタイプを分析する上で非常に有用だ」と述べている。

かつてぬいぐるみで「顧問委員会」を構成していた頃から、今や数千人の従業員を抱えるAI大手へと成長するまで、Anthropicは小さなAI安全スタートアップから業界の重要プレイヤーへと成長を遂げた。メディアの報道によると、同社の潜在的なIPO評価額は2兆ドルに迫る可能性があるという。

一群のぬいぐるみは、いかにして「顧問委員会」になったのか？

この非公式な「顧問団」は単なる冗談ではなく、異なる意思決定スタイルをシミュレーションする思考法だった。

そのうち、Jinjiは気さくな性格の猫で、Amodeiの仕事の負担を軽くする傾向があった。例えば不必要な会議をスキップするといった具合だ。ピンクのクマのMauraはまったく逆のスタイルを表していた。几帳面で、要求水準が高く、細部を重視する。Beary Bondsという名のパンダは、議論にさらなる思いやりと寛大さを加えるよう設定されていた。

同じ職場の問題に直面すると、Amodei夫妻は異なるぬいぐるみが表す「人格」にそれぞれ反応させた。

この方法の本当の効用はぬいぐるみにあるのではなく、意思決定者に一時的に自分の立場から離れ、別の人格で問題を見直すことを強いる点にある。

本質的に、これは低コストの思考実験だ。実際の外部顧問はいないが、異なる役割のシミュレーションを通じて、同じ問題を異なる意思決定の経路に分解することができる。

そしてこの方法は、OpenAI内部ではほとんど誰にも知られていなかった。

ぬいぐるみの外では、OpenAI内部の意見の相違が拡大していた

それと同時に、Amodei兄妹とOpenAIとの関係も変化しつつあった。

Daniela Amodeiは2018年にOpenAIに入社し、後に技術チームの管理職に転じ、Greg BrockmanやMira Muratiを含む複数の上層部と意見の相違を生じさせた。

彼女とBrockmanはかつて親しい関係にあった。Brockmanは2017年の彼女とHolden Karnofskyの結婚式でスピーチを行ったが、その後、二人の仕事上の関係は徐々に悪化していった。

Dario AmodeiはOpenAIのリーダーシップおよび先進AIの発展の方向性への関心をますます強め、Sam AltmanとBrockmanに対して日増しに警戒を強めていった。

それと同時に、彼は強力なAIシステムのリスクをより重視したいと望む一群の研究者たちと、非公式に活動を組織し始めた。会社の通常の枠組みの外で、これらの人々は連絡を取り合い、会議を開いた。一部の同僚はこの派閥を「Darioの小さなサークル」と呼んだ。

内部の対立はついに避けられない段階に達した。

2020年、DarioはOpenAIを離れ、異なる安全理念で先進AI研究を推し進める意思のあるチームを結成し始めた。Danielaはこの離脱の中核人物の一人となり、チームが離脱の準備をする間、OpenAIとの交渉を担当した。

この分裂は後に、事情を知る者たちから内々に「離婚」と呼ばれた。

一つの離脱が、一つのAI大手を生んだ

2020年12月、Amodei兄妹は正式にOpenAIを離れ、共同でAnthropicを創業した。

Jack Clark、Sam McCandlish、Tom Brown、Chris Olah、Jared Kaplanも創業に参加し、Ben Mannはその後、もう一人の共同創業者として認定された。

Anthropicは当初、AI安全を中核とする小さな研究機関にすぎなかった。その後、同社は徐々に数千人の従業員へと拡大し、OpenAIの最も重要な競合相手の一つへと成長した。

Daniela Amodeiは現在、Anthropicの社長兼取締役会会長を務め、その権限は研究、エンジニアリング、プロダクト、事業運営の大部分に及ぶ。かつてOpenAIの非営利取締役会メンバーだったHolden Karnofskyも後にAnthropicに加わった。

ぬいぐるみでマネージャーをシミュレーションしていた頃から、今や数千人の従業員を抱えるAI大手へと成長するまで、この過去の出来事はAnthropicが草創期から成熟へと歩んだ道のりをも物語っている。