兩大AI巨頭掌門人決裂內幕,比宮鬥劇還刺激

硅谷最昂贵“分手案”内幕揭晓:OpenAI 内斗与 Anthropic 诞生始末

知名记者 Kevin Roose 的新书节选披露了 OpenAI 与 Anthropic 分家的更多细节,揭示了 Dario Amodei 出走的核心原因是对 Sam Altman 的深度不信任。

  • 核心导火索:“国家计划”争议

    • 2017年,OpenAI 面临资金危机,创始人 Brockman 与 Sutskever 提出“国家计划”,设想向美国、中国、俄罗斯等拍卖未来 AGI 技术的使用权。
    • Amodei 严厉斥责此计划将“加剧军备竞赛”、“导致人权暴行”,并损害道德合法性。此事件成为他信任崩塌的起点。
  • 信任裂痕持续加深

    • 信息不透明:Amodei 发现 Sam Altman 提供的 GPT-3 内测名单可能不完整,怀疑自己被刻意隐瞒信息。
    • 对微软投资的分歧:Amodei 希望确保微软接受特定“帮助对方”条款,但认为 Altman 为促成交易未尽努力,甚至推卸责任。
    • 邀请 Kanye West:Altman 提议让行为出格的 Kanye West 参与 GPT-3 内测,被政策总监拦下,进一步加深了 Amodei 对 Altman 判断力的疑虑。
  • 内部矛盾激化

    • Amodei 将 Altman 描述为“两面派操控者”,并私下记录其“误导”自己的时刻。
    • 同时,OpenAI 内部对 Amodei 的“道德至上”感不满,认为他将安全作为无法反驳的理由,影响了合作。
  • 分家倒计时

    • Amodei 提出留任条件(安全团队拥有产品否决权)未果,与六位同事建立名为“BATNA”的秘密群聊,筹备出走。
    • 2020年12月,在一场全员线上会议中,Amodei 宣布七人离开,创立专注于 AI 安全的 Anthropic。会议结束后,七人随即被踢出系统和群聊。
  • 恩怨未解,新困境浮现

    • 离开 OpenAI 并未让 Amodei 免于商业竞争与安全承诺的棘手矛盾。Anthropic 同样面临巨额亏损、扩张算力和 AI 安全事件的双重压力。
    • 双方高层间仍存在深刻敌意,形成“纠缠着敌意的蜘蛛网”。

总结: 这场分裂本质是围绕AGI使命、商业扩张与安全信任的彻底决裂。Amodei 的出走源于对 Altman 领导能力与价值观的根本不信任,但新公司也需面对同样的可持续增长与安全承诺难题,这场“答卷”尚未完成。

總結

撰文:比推Bitpush

矽谷最貴的一場「分手案」,細節終於全抖出來了。

日前,《大西洋月刊》發布了美國知名暢銷書作家、播客主持人Kevin Roose新書《The AGI Chronicles》的首篇節選,Roose為這本書採訪了超過150位OpenAI、Anthropic和Google DeepMind的內部人士,加上大量未公開的公司文件和內部備忘錄,拼出了這段矽谷最轟動的決裂往事。

如果你只知道Dario Amodei 2020年底帶著一幫人從OpenAI出走、創辦了Anthropic,那只是冰山一角。真正讓人驚掉下巴的,是他走之前的「宮鬥」。

「國家計劃」:一場拍賣AGI的瘋狂提案

Amodei曾經對OpenAI抱有很高的期待。2016年,他離開谷歌,加入這家年輕的非營利研究機構。按照Roose的敘述,他是推動OpenAI走向大語言模型路線的重要人物,帶領的團隊參與了GPT-2和GPT-3的開發。

隨著研究取得進展,Amodei越來越相信,更大規模的模型可能通向AGI——通用人工智慧。但與此同時,他對公司領導層的信心卻在不斷消退。

最早讓他耿耿於懷的事情之一,發生在2017年。

當時,馬斯克對OpenAI的資金支持開始動搖,實驗室急需尋找新的出路。聯合創始人Greg Brockman和首席科學家Ilya Sutskever提出了一個內部方案,後來被叫做「countries plan」——國家計劃。

這個方案一開始還算體面,設想的是搞一個國際聯盟,大家一起管理AGI的風險、分享收益。

但等到Brockman和Sutskever在內部會議上正式向員工展示時,畫風已經完全跑偏了:它變成了一場向各國政府「拍賣」未來AGI技術使用權的籌款活動,提到的國家包括美國、中國和俄羅斯。

兩人的邏輯是這樣的:AGI這種東西牽涉國家安全,各國政府遲早會從造出它的公司手裡把它搶走。既然反正要交出去,不如趁現在缺錢的時候賣個好價錢。

一位聽過這場展示的知情人士吐槽:「聽起來就像是幾個科技人在推銷一個瘋狂創業項目,講到最後來一句——讓政府買單就行了。」

Dario Amodei當時是OpenAI的研究副總裁。他聽完之後,直接給Brockman、Sutskever和其他高管發了一封郵件,措辭相當不客氣。他在郵件裡寫道,這個計劃「會加劇而非減少軍備競賽」,可能「導致人權暴行」,讓他們對自己的人民做出「難以言喻的事情」——並且「會損害OpenAI的道德合法性」。

翻譯成人話就是:你們要把人類最強大的技術賣給他們?瘋了吧。

好在微軟隨後的大筆投資救了場,這個計劃最終沒有落地。OpenAI的回應是,公司「曾短暫考慮是否將OpenAI轉變為國際合作事業」,但「沒有考慮將AGI出售給中國或俄羅斯」。

這個方案最終沒有落地,但Amodei沒有忘記,管理層曾認真討論過一個令他如此反感的主意。

從微軟到侃爺,信任裂痕越來越深

此後,一些看起來更小的事情,也不斷加深他的不信任。

在GPT-3內測期間,Amodei曾向Altman索要獲准使用模型的客戶名單。Altman給了他一份,但Amodei聲稱,自己後來又發現了另一份更長的名單。他開始懷疑,自己看到的資訊經過了篩選。

而圍繞微軟投資的一次爭執,更加深了他的疑慮。

OpenAI的公開章程中有一項頗為特別的約定:如果一個價值觀一致、重視安全的項目先接近實現AGI,OpenAI將停止與其競爭,轉而協助對方。這意味著,在特定情況下,公司的使命應當優先於贏得比賽。

據Roose新書所述,在與微軟商談10億美元投資時,Amodei希望確保微軟接受可能用於落實這一承諾的OpenAI收購交易。Altman告訴他,微軟不接受相關條件。

Amodei不相信事情如此簡單。他懷疑,Altman為了盡快促成交易,可能已經放棄了爭取,甚至根本沒有提出要求,卻把責任推給了微軟。

在Amodei眼中,問題越來越難以通過業務討論解決:他已經開始懷疑,坐在對面的Altman是否願意向自己交代完整的談判經過。

到了2020年,Kanye West(侃爺)——就是那個後來公開表達對希特勒崇拜的說唱歌手——又意外出現在這份不斷累積的嫌隙清單上。

Roose援引兩名知情人士稱,Altman在見過Kanye後,提出讓他參加GPT-3私人內測。

當時GPT-3還沒公開發布,是OpenAI壓箱底的核心資產。時任OpenAI政策總監的Jack Clark出手攔下了這個提議,他提到,侃爺不久前發布過一段疑似向葛萊美獎盃小便的影片,其公開行為讓人擔憂。然後,沒過多久,侃爺就開始公開表達對希特勒的崇拜了。

這次邀約沒有通過,卻進一步加重了Amodei對Altman判斷力的不滿。Roose寫道,類似事件單獨拿出來,多數還不足以讓他辭職,但累積起來,已經讓他難以相信Altman適合掌握AGI這樣強大的技術。

Roose在書中披露,到2020年,Amodei已經對OpenAI的領導層徹底失望。他把Altman形容為一個「兩面派操控者」,認為Brockman「權力慾熏心、行事魯莽」。

其實他們之間的核心矛盾就兩個字:信任。

據說Amodei在OpenAI任職期間一直在私下記小本本,寫下他認為Altman誤導他的時刻。

其中一條筆記中他寫道:「OpenAI的問題就出在Sam自己身上。」

分幫結派、搞小團體?

另一邊,OpenAI內部也有人越來越受不了Amodei。

按照Roose的報導,Amodei和妹妹Daniela逐漸拉攏了一批理念相近的同事。他們建立私人聊天頻道、單獨開會,頻繁討論安全問題。在圈外一些員工看來,這群人越來越難合作。

一位前同事向Roose抱怨,Amodei常常認定某個選擇在道德上才是正確的,彷彿只要援引安全,爭論就應該結束。這讓其他團隊十分惱火。

Amodei覺得商業目標總會壓過安全承諾;一些同事則認為,他把安全變成了難以反駁的理由。雙方對彼此的不滿,就這樣從具體決定蔓延到了工作方式和人格判斷。

最終,矛盾集中到一項實實在在的權力上:安全團隊能否否決新產品發布?

據Roose報導,Amodei在離職前向Altman提出過一組留任條件,其中包括給予安全團隊這樣的否決權。他希望,核心研究人員可能集體離開的壓力,能促使Altman接受改變。

秘密群聊裡,一場「分家」開始倒計時

而在談判進行的同時,退路也已經準備起來。

Amodei與六位同事建立了一個私人Slack頻道,名字叫「BATNA」,即談判無法達成協議時的最佳替代方案。成員包括妹妹Daniela,以及Jack Clark、Sam McCandlish、Tom Brown、Chris Olah和Jared Kaplan。

這個群的名字,本身就說明了他們當時的處境:還在談,但已經做好了走的準備。

當留任條件無法談攏,雙方請來律師,開始協商內部所稱的the divorce(離婚)。

按照Roose的報導,Altman同意讓這批人擁有數週的OpenAI員工招募窗口,交換條件是此後一年內不再挖人;雙方還約定,不在公開場合貶損彼此。

2020年12月,OpenAI召開了一次全員線上會議。

開頭看起來和平常沒有兩樣。Altman通報研究進展、介紹新員工,然後把話交給Amodei。

接下來,Amodei宣布,自己和另外六位負責人將離開,成立一家以AI安全為重點的新機構。

按照Roose的描述,聊天窗口很快被驚訝的消息和表情刷屏,會議快結束時,Jack Clark在聊天框裡打下一行字——「I love you all」,然後螢幕驟然變黑。

包括Dario Amodei、他的妹妹Daniela Amodei在內的七名OpenAI核心成員,在同一時刻被踢出會議,郵箱和Slack權限當場撤銷。

然後就是2021年初,Anthropic成立。

恩怨何時了

而另起爐灶,也沒有讓Amodei擺脫那些曾令他煩惱的難題。

Anthropic同樣需要融資、擴充算力、開發更強大的模型。掌握前沿技術,才能研究最前沿的風險;但要留在前沿,就必須持續投入,並面對競爭對手的追趕。隨著公司成長,Amodei也必須回答一個熟悉的問題:安全、商業與競爭發生衝突時,哪一項先讓步?

雙方的互相怨恨也絲毫沒有消解。

知情人士稱,Amodei曾用「邪惡」形容Altman和OpenAI;與此同時,OpenAI內部一些人也認為,Amodei兄妹把自己包裝成道德楷模,卻同樣熱衷權力;他們尤其不滿Anthropic一邊公開警告AI風險,一邊加速參與競賽。

Roose在書中把這些AI領頭人形容為「一張糾纏著敵意的蜘蛛網」:Hassabis看不上Altman,Amodei看不上Altman,Altman看不上Amodei,Altman也看不上Musk。

幾年過去,這張網沒解開,反而各自有了新麻煩。彭博社消息稱,Anthropic正尋求最快11月中旬上市,目標估值最高2兆美元;可招股書也擺出另一面:2025年營收約46億美元,經營虧損卻超過80億,未來還承諾投入超5000億美元建算力。Altman那邊則對IPO保持謹慎,說安全和對齊沒搞定之前不急著上市,但OpenAI近來同樣被AI安全事件纏身。

當年Amodei因為不信任Altman而出走,想建一家安全承諾真正算數的公司。如今他自己的公司也要面對同一道難題:增長的可持續性+安全擔憂,哪頭都不能鬆。這道題,他們都還沒交卷。

分享至:

作者:比推BitPush

本文為PANews入駐專欄作者的觀點,不代表PANews立場,不承擔法律責任。

文章及觀點也不構成投資意見

圖片來源:比推BitPush如有侵權,請聯絡作者刪除。

關注PANews官方賬號,一起穿越牛熊
PANews APP
美國國會研究處:銀行加密業務範圍或由立法與監管共同界定
PANews 快訊