AnthropicがMythosとFableのモデルを削除した背後にある「黒幕」は、AmazonのCEOであり、主要株主でもある人物だった。

執筆者：李佳

Anthropic社のAIモデルは、主要投資家であるAmazonの働きかけにより、一般公開からわずか数日で米国政府によって開発が停止された。

ウォール・ストリート・ジャーナルによると、アマゾンのCEOアンディ・ガルセッティは、ベサント米財務長官をはじめとする高官らに電話をかけ、アマゾンの研究者らがアントロピック社の主力モデル「Fable 5」のセキュリティ障壁を突破し、特定のプロンプトを用いてサイバー攻撃に悪用される可能性のある機密情報を入手したと主張した。ホワイトハウスは直ちに緊急会議を招集し、商務省は最終的にFableとMythosモデルに輸出規制を課し、海外ユーザーによるアクセスを禁止した。アントロピック社はその後、規制要件を遵守するため、両モデルへのユーザーアクセスをすべて停止した。

この規制は、アントロピックがIPOを準備する上での見通しに暗い影を落とすだけでなく、巨大テクノロジー企業間の水面下での権力闘争、米国政府の最先端AIに対する安全保障上の懸念、そしてアントロピックとトランプ政権との長年にわたる緊張関係を反映している。

アマゾンの深夜の電話が、AI規制における連鎖反応を引き起こした。

Axiosによると、この事件は現地時間木曜日の深夜に発生した。Amazonは米国政府当局に連絡を取り、同社の研究者がAnthropic社のMythosモデルのセキュリティ制限を突破し、国家安全保障上の脅威とみなされるコンテンツにアクセスしたとする報告書を提出した。

ウォール・ストリート・ジャーナルによると、アマゾンの報告書では、特定の指示に従うことで、Fable 5モデルが少なくとも4つのソフトウェアプログラムのセキュリティ脆弱性を発見できたことが示されている。これらの情報は通常、モデルのセキュリティメカニズムによって保護されている。

サイバーセキュリティ企業GreyNoise Intelligenceの創設者であるアンドリュー・モリス氏は、この情報は真に危険なサイバーセキュリティ情報とは程遠く、多くの公開ツールでも同様の脆弱性を発見できると指摘している。さらに、Amazonの研究者が、脆弱性情報を実行可能な攻撃コードに変換するFableモデルのより深い防御を突破したという証拠はない。

Anthropic社は、Amazonが指摘した脆弱性は比較的基本的な問題であり、同社は適切なセキュリティ対策を確立しており、常にセキュリティを最優先事項としていると回答した。

交渉は金曜日の早朝に決裂し、トランプ大統領は輸出規制命令に署名した。

Axiosによると、政府関係者は金曜日の早朝、Anthropic社と数時間にわたる交渉を行い、最新モデルを自主的に店頭から撤去するよう要求したが、合意には至らなかった。

ウォール・ストリート・ジャーナルによると、アントロピック社のCEO、ダリオ・アモデイ氏は、金曜日に政府関係者と電話会談を行った際、政府の懸念をさらに強める発言をしたという。政府関係者は、アントロピック社が政府の安全保障専門家との協力に消極的な姿勢を示したことで、同社が安全保障リスク管理において信頼性に欠けるという長年の認識が裏付けられたと考えている。

最終的に、イノベーションを制限することへの懸念にもかかわらず、トランプ大統領は制限を承認する大統領令に署名した。ホワイトハウスのAIアドバイザーでありベンチャーキャピタリストでもあるデビッド・サックス氏は、ソーシャルメディア上で、この制限は「不本意なものだった」と述べ、政府の「現在の希望は、Anthropicがセキュリティ上の問題を解決し、輸出規制が解除され、Fableモデルが一般公開されることだ」と付け加えた。

注目すべきは、Anthropic社がFableモデルのリリース前に米国政府に複数回通知し、主要な政府系AIテスト機関と協力して段階的なリリース戦略を採用したことである。この戦略では、Amazonなどのテクノロジー企業にプレビューアクセスを提供することを優先し、より広範なユーザーへのリリース前にソフトウェアの脆弱性スクリーニングに利用できるようにした。

利害が複雑に絡み合っているため、アマゾンは株主であると同時に「内部告発者」でもある。

この事件の複雑さは、AmazonがAnthropicへの主要投資家であり、同社のチップ供給元でもある一方で、Anthropicの最先端モデルを自社のソフトウェア脆弱性特定事業にも活用しているという点にある。

ウォール・ストリート・ジャーナル紙は、事情に詳しい情報筋の話として、アマゾンのエリック・ガルセッティCEOが政府関係者に最初に行った電話は一般的なセキュリティ警告だったが、事態はすぐにエスカレートし、商務省による海外ユーザーに対する包括的な利用禁止措置へと発展したと報じた。アマゾンの広報担当者は、多数の公的機関や民間企業にサービスを提供する大手クラウドサービスプロバイダーとして、政府が潜在的なセキュリティリスクについて同社と協議することは珍しいことではないと述べ、こうした協議の詳細については公表しないと付け加えた。

一部のアナリストは、ホワイトハウスがアントロピック社を不信に思っているのは長年のことで、同社がリベラル系の政治献金者とつながりがあること、AIの危険性について公に警告を発していること、過去にバイデン政権の複数の高官を雇用していたことなどがその原因だと指摘している。

評価額の下落圧力とユーザーの流出により、OpenAIは潜在的な恩恵を受ける可能性がある。

これらの規制が、アントロピック社のIPO推進における重要な局面で施行されたことは、特にデリケートな問題である。

同社は早ければ今秋にも株式公開を計画していたと報じられており、主力製品の強制的な削除は、ユーザーが他のプラットフォームに移行する原因となり、同社の評価額に圧力をかける可能性がある。OpenAIは、独自の堅牢なサイバーセキュリティモデルを顧客に徐々に開放しており、トランプ政権と活発なコミュニケーションを維持していることから、潜在的な受益者と見なされている。

より広い視点で見ると、この出来事は、セキュリティ当局にAIモデルに対するより大きな規制権限を与える最近の大統領令や、政府によるAI企業への潜在的な投資に関する議論と相まって、政府によるAI産業への統制の著しいエスカレーションを意味する。