72時間、トリプルクライシス：アントロピックの魂がオークションに

著者: Ada、Deep Tide TechFlow

2月24日火曜日。ワシントンD.C.、ペンタゴン。

アントロピック社のダリオ・アモデイCEOは、ピート・ヘグセス国防大臣の向かいに座った。NPRやCNNを含む複数のメディアは、事情に詳しい関係者の話として、会談の雰囲気は「礼儀正しかった」ものの、内容は全くそうではなかったと報じた。

ヘグゼス氏は大統領に最後通牒を突きつけた。金曜日の午後5時1分までにクロードの軍事利用制限を解除し、国防総省が自律型兵器による標的特定や国内の大規模監視を含む「あらゆる正当な目的」に同機を使用できるようにするというものだ。

そうでなければ、2億ドルの契約をキャンセルする。国防生産法を発動し、装備品を強制徴用する。アントロピック社を「サプライチェーンリスク」に指定する。これは、ロシアと中国に対する敵対的企業としてブラックリストに載せることに等しい。

同日、アントロピックは責任あるスケーリングポリシー（RSP 3.0）の第3バージョンをリリースし、安全対策が講じられていることを保証できない場合は、より強力なモデルをトレーニングしないという同社の中核的なコミットメントの1つをひっそりと削除しました。

同日、イーロン・マスクはXに「アントロピックは大規模なトレーニングデータを盗んだ。これは事実だ」と投稿した。一方、Xのコミュニティノートには、アントロピックがクロードのトレーニングに海賊版書籍を使用したとして15億ドルの和解金を支払ったという報告も追加されている。

72 時間以内に、この自称 AI 企業は、セキュリティの殉教者、知的財産の窃盗犯、そして国防総省への裏切り者という 3 つの役割を同時に演じました。

どれが本当でしょうか？

おそらくそれらはすべてです。

国防総省の「従うか出て行け」戦略

物語の第一層は非常にシンプルです。

アンスロピックは、米国国防総省から機密情報へのアクセスを許可された最初のAI企業です。昨年夏に獲得した契約の上限は2億ドルでした。その後、OpenAI、Google、xAIもそれぞれ同規模の契約を獲得しました。

アルジャジーラによれば、クロードは今年1月にベネズエラのマドゥロ大統領の誘拐に関連して行われたとされる米軍の作戦に使用されたという。

しかし、アントロピックは2つのレッドラインを引いている。それは、完全自律型兵器による標的制御を支持しないこと、そして米国市民の大規模監視を支持しないことである。アントロピックは、人工知能は兵器を制御するのに十分な信頼性がないと考えている。また、現在、大規模監視における人工知能の適用を規制する法律や規制は存在しない。

国防総省はそれを信じていない。

ホワイトハウスのAI顧問デビッド・サックス氏は昨年10月、アントロピック・オン・エックスが「恐怖を武器にして規制を操っている」と公然と非難した。

競争はすでに崩壊している。OpenAI、Google、xAIはいずれも、軍が自社のAIを「あらゆる合法的なシナリオ」で利用することを許可することに合意した。マスク氏のGrokは今週、機密システムへのアクセスが承認されたばかりだ。

最後に残ったのは Anthropic でした。

本稿執筆時点で、Anthropicは最新のプレスリリースで、撤退するつもりはないと述べています。しかし、金曜日の午後5時1分の締め切りは刻一刻と迫っています。

元司法省と国防総省の連絡担当官の匿名の人物はCNNに対し、困惑した表情でこう語った。「企業を『サプライチェーンリスク』と宣言しながら、同時にその企業に軍のために働くことを強制できるのか？」

いい質問ですね。しかし、ペンタゴンはそれを問題視していません。彼らが懸念しているのは、アントロピック社が妥協しない場合に強制的な措置を講じること、あるいはワシントンから追放されることなのです。

「蒸留攻撃」：告発に対する侮辱

2月23日、アントロピックは、中国のAI企業3社がクロードに対して「産業グレードの蒸留攻撃」を仕掛けたと非難する強い文面のブログ記事を公開した。

被告はDeepSeek、Moonshot AI、MiniMaxである。

Anthropic は、24,000 の偽アカウントを使用して Claude と 1,600 万回以上のやり取りを開始し、特にエージェント推論、ツール呼び出し、プログラミングにおける Claude のコア機能をターゲットにして抽出したと主張しています。

アントロピックはこれを国家安全保障上の脅威とみなし、精製モデルは「セキュリティフェンスを維持する可能性が低い」ため、独裁政権によるサイバー攻撃、偽情報キャンペーン、大規模監視に利用される可能性があると主張した。

物語は完璧で、タイミングも完璧です。

これはトランプ政権が中国への半導体輸出規制を緩和した直後、そしてアントロピックが半導体輸出規制に関するロビー活動の材料を見つける必要があったまさにそのときに起こった。

しかしマスク氏は反論した。「アントロピックは大規模なトレーニングデータを盗み、和解金として数十億ドルを支払った。これは事実だ」

AIインフラ企業IO.Netの共同創業者トリー・グリーン氏は、「インターネット全体のデータを使って独自のモデルをトレーニングし、その後、他の人があなたの公開APIを使ってそこから学習する。これを『蒸留攻撃』と呼ぶのか？」と語った。

Anthropicは蒸留を「攻撃」と呼んでいますが、AI業界では当たり前のことです。OpenAIはGPT-4の圧縮に、GoogleはGeminiの最適化に、そしてAnthropic自身も蒸留を行っています。唯一の違いは、今回はAnthropic自身が蒸留されるという点です。

CNBCの取材に対し、シンガポールの南洋理工大学のAI教授エリック・カンブリア氏は「合法的な使用と悪意のある利用の境界線は曖昧になることが多い」と語った。

皮肉なことに、アントロピックはクロードの学習に海賊版書籍を使用したとして、15億ドルの和解金を支払ったばかりです。インターネット全体のデータを使ってモデルを学習させた後、他社が自社の公開APIを使って学習したと非難しました。これは単なる二重基準ではなく、三重基準です。

アントロピックは被害者を演じようとしたが、結局は被告として暴露されてしまった。

安全コミットメントの削除：RSP 3.0

アントロピックがペンタゴンと対峙し、シリコンバレーと衝突した同じ日に、同社は責任あるスケーリングポリシーの第3版を発表しました。

アントロピックのチーフサイエンティスト、ジャレッド・カプラン氏はメディアのインタビューで、「AIモデルのトレーニングを停止することは誰にとっても良いことではないと考えています。急速なAI開発の状況において、競合他社が猛スピードで開発を進めている中で、一方的にコミットメントを行うことは意味がありません」と述べました。

言い換えれば、他の人が武道倫理を実践しないのであれば、私たちもそうするふりをしないということです。

RSP 1.0と2.0の中核を成すのは、厳格なコミットメントです。モデルの能力が安全対策の範囲を超えた場合、学習は一時停止されます。このコミットメントにより、AnthropicはAI安全コミュニティにおいて独自の評価を得ています。

しかし、バージョン 3.0 では削除されました。

代わりに、より「柔軟な」フレームワークが採用され、Anthropicが独自に実施できるセキュリティ対策と、業界全体の協力を必要とするセキュリティ推奨事項が分離されました。リスクレポートは3～6ヶ月ごとに発行され、外部の専門家によるレビューが行われます。

とても責任感があるようですね？

非営利団体METRの独立審査員であるクリス・ペインター氏は、この方針の初期草案を審査した後、次のようにコメントした。「これは、リスクの評価と軽減の方法が能力の向上に追いついていないため、アンスロピックが『トリアージモード』に移行する必要があると考えていることを示しています。これは、社会がAIの潜在的に壊滅的なリスクに備えていないことをさらに示しています。」

TIME誌によると、アンスロピックは社内で約1年かけて改訂案を議論し、CEOのアモデイ氏と取締役会は全会一致で承認しました。公式の説明では、当初の方針は業界の合意形成を促すことを目的としていたものの、業界がそれに追いつかなかったとのことです。トランプ政権は人工知能（AI）開発に対して自由放任主義的なアプローチを取り、関連する州の規制の撤廃さえ試みました。連邦レベルのAI関連法制化は依然として遠い見通しです。2023年までに世界的なガバナンス枠組みを確立することは可能と思われましたが、3年が経過した今、その道は明らかに閉ざされています。

AIガバナンスを長年追跡してきた匿名の研究者は、より率直にこう述べた。「RSPはアントロピックにとって最も貴重なブランド資産です。トレーニングを一時停止するという約束を取り消すのは、オーガニック食品会社がパッケージから「オーガニック」という言葉をこっそり剥がし、テストの透明性が高まったと宣言するようなものです。」

3800億ドルの評価額でアイデンティティの断絶

2月初旬、アントロピックはAmazonをアンカー投資家として、評価額3,800億ドルで300億ドルの資金調達ラウンドを完了しました。設立以来、年間売上高は140億ドルに達し、過去3年間でこの数字は毎年10倍以上に成長しています。

一方、国防総省はマスク氏をブラックリストに載せると脅迫した。マスク氏は公にデータ窃盗の罪で彼を非難し、セキュリティに関する彼の主要な責務は剥奪された。辞任後、アンスロピックのAIセキュリティ責任者であるムスリナンク・シャルマ氏はXに「世界は危険にさらされている」と投稿した。

矛盾？

おそらく矛盾は人類の DNA の中にあるのでしょう。

この会社は、OpenAIの元幹部によって設立されました。彼らは、OpenAIがセキュリティ問題への対応を急ぎすぎていることを懸念していました。そして、より強力なモデルをより速いペースで構築するために、独自の会社を設立しました。同時に、これらのモデルの危険性を世界に訴えました。

ビジネスモデルは、一言でまとめることができます。「私たちは誰よりも AI を恐れているので、AI を構築するために私たちにお金を払うべきです。」

この物語は2023年から2024年にかけて完璧に機能しました。AIセキュリティはワシントンでホットな話題であり、アントロピックは最も人気のあるロビイストでした。

2026年、風向きが変わった。

「Woke AI」は攻撃のハッシュタグとなり、州レベルのAI規制法案はホワイトハウスによって阻止され、アントロピックが支援するカリフォルニア州のSB53は成立したものの、連邦法はまったく存在しない。

アントロピックの安全地帯戦略は、「差別化の優位性」から「政治的負債」へと転落しつつある。

アントロピックは、ブランドを維持するために「安全」であると同時に、市場や政府から見捨てられないように「柔軟性」も確保しなければならないという、複雑なバランスをとらなければなりません。問題は、どちらの許容範囲も狭まっていることです。

セキュリティに関する物語には、まだどれだけの価値があるのでしょうか?

これら3つを一緒に見ると、全体像が明らかになります。

中国企業クロードを蒸留で非難することは、半導体輸出規制強化を目的としたロビー活動の一環である。安全保障上のモラトリアムの約束は、軍拡競争で後れを取ることを避けるため削除された。国防総省による独立兵器の要求を拒否することは、道徳的な見せかけの最後の一片を守ろうとする手段である。

各ステップには独自のロジックがありますが、それらは互いに矛盾することもあります。

中国企業があなた方のモデルを「蒸留」することで国家安全保障が脅かされると主張すると同時に、あなた方のモデルが制御不能に陥るのを防ぐという約束を破るなどということはあり得ません。もしモデルが本当にそれほど危険なのであれば、あなた方はより積極的になるのではなく、より慎重になるべきです。

あなたが人類学者でない限りは。

AI業界において、アイデンティティは財務諸表ではなく、バランスシートによって定義されます。Anthropicの「セキュリティ」という物語は、本質的にブランドプレミアムです。

AI軍拡競争の初期段階において、このプレミアムは価値があります。投資家は「責任あるAI」に高い評価を支払う用意があり、政府は「信頼できるAI」にゴーサインを出す用意があり、顧客は「より安全なAI」に喜んでお金を払います。

しかし、2026年までにこのプレミアムは消滅します。

アントロピックはもはや、「妥協するかどうか」と「誰と最初に妥協するか」という選択に直面していません。国防総省との妥協はブランドイメージを傷つけます。競合他社との妥協は安全保障上の約束を損ないます。投資家との妥協は、双方に譲歩することを意味します。

Anthropic は金曜日の午後 5 時 1 分に回答を発表します。

しかし、答えが何であれ、一つ確かなことは、かつては「我々は OpenAI とは違う」という前提に立っていた Anthropic が、他のすべての企業と同じになりつつあるということだ。

アイデンティティの危機の終わりは、多くの場合、自分のアイデンティティの消失です。