撰文:李佳
Anthropic的AI模型在公開發布數天內被美國政府叫停,導火線來自其主要投資者亞馬遜。
根據《華爾街日報》,亞馬遜CEO安迪·賈西致電美國財政部長貝森特等高官,稱其研究人員通過特定提示詞繞過Anthropic旗艦模型Fable 5的安全護欄,獲取了可用於網絡攻擊的敏感信息。白宮隨即召開緊急會議,商務部最後對Fable及Mythos模型實施出口管制,禁止境外使用者進入。 Anthropic隨後暫停兩個模型的所有用戶訪問,以配合合規要求。
這次管制不僅令正在籌備IPO的Anthropic前景蒙上陰影,也折射出科技巨頭間的暗中角力、美國政府對前沿AI的安全焦慮,以及Anthropic與川普政府之間長期累積的緊張關係。
亞馬遜深夜來電,引爆AI管制連鎖反應
據Axios報道,事件始於當地時間週四深夜。亞馬遜致電美國政府官員並提交報告,稱其研究人員成功突破Anthropic旗下Mythos模型的安全限制,存取到被認定構成國家安全威脅的內容。
另根據《華爾街日報》,亞馬遜的報告顯示,在特定提示詞引導下,Fable 5模型能夠挖掘出至少四款軟體程式中的安全漏洞,這類資訊通常受模型安全機制屏蔽。
網路安全公司GreyNoise Intelligence創辦人Andrew Morris指出,這些資訊距離真正危險的網路安全情報仍有相當距離,許多公開工具也能發現類似漏洞。此外,尚無證據顯示亞馬遜研究人員突破了Fable模型將漏洞資訊轉化為可執行攻擊程式碼的更深層防護。
Anthropic方面回應稱,亞馬遜所指出的漏洞屬於相對基礎的問題,公司已建立充分的安全保障機制,並始終將安全置於優先位置。
週五凌晨談判未果,川普簽署出口管制
根據Axios,政府官員當地時間週五凌晨與Anthropic進行了數小時談判,要求其主動下架最新模型,但未達成協議。
根據《華爾街日報》報道,Anthropic執行長Dario Amodei與部分政府官員在周五的通話中,進一步加深了後者的疑慮。官員認為,Anthropic表現出不願與政府安全專家合作解決問題的態度,這與政府長期以來對其在安全風險管理方面缺乏可信度的判斷相互印證。
最終,川普總統儘管對限制創新有所保留,仍簽署批准了這項管制行動。白宮AI顧問、創投人David Sacks在社群媒體上表示,這項限制措施實屬「不情願」之舉,並稱政府「現在的希望是Anthropic修復安全問題,出口管制得以解除,Fable模型重新公開發布」。
值得注意的是,Anthropic在Fable模型發布前已多次通知美國政府,並與政府關鍵AI測試機構合作,採取分階段開放策略,優先向亞馬遜等科技公司提供預覽訪問權限,以便在更大範圍公開前用於軟體漏洞排查。
利益交織,亞馬遜既是股東又是“吹哨人”
這次事件的複雜性在於,亞馬遜既是Anthropic的主要投資方,也是其晶片供應商,同時也將Anthropic最優質的模式部署於自身的軟體漏洞識別業務。
根據《華爾街日報》引述部分知情人士,亞馬遜CEO賈西致電政府官員的本意是一般性安全預警,但事態迅速升級為商務部對境外用戶的全面封鎖。亞馬遜發言人表示,作為服務大量公私客戶的領先雲端服務供應商,政府就潛在安全風險徵詢其意見並不罕見,並稱此類情況下公司不會披露相關討論細節。
部分分析家指出,白宮對Anthropic的不信任由來已久,涉及該公司與自由派政治捐款者的關聯、其對AI危險性的公開警告,以及先前僱用多名拜登政府官員等因素。
估價承壓、用戶分流,OpenAI或成潛在受益方
此次管制在Anthropic衝刺IPO的關鍵節點落地,時機特別敏感。
據報道,該公司最快計劃於今年秋季上市,旗艦模型被迫下架可能導致用戶流向其他平台,並對公司估值造成壓力。 OpenAI被視為潛在受益方,該公司擁有自己的強大網路安全模型,正逐步向客戶開放,並與川普政府保持積極溝通。
從更宏觀的視角來看,結合近期賦予安全官員對AI模型更大監管權限的行政令,以及政府就潛在入股AI公司展開的討論,此次事件標誌著政府對AI行業管控力度的顯著升級。

