1134人のAI従業員が連名で「ブレーキ」：OpenAIとAnthropicの異例の提携の背後にあるオープンソース包囲網

7月27日、中国の月之暗面（Moonshot AI）は2.8兆パラメータのKimi K3モデルの重みをオープンソース化すると発表した。わずか1日後の7月28日、OpenAIやAnthropicを含む1134人の米国最先端AI研究所の従業員と経営幹部が、「Pacing the Frontier」イニシアティブに共同署名し、必要に応じて最先端AIの開発ペースを減速させる手段を政府に提供するよう求めた。この時間的な密接な符合によって、安全性を旗印にしたこの減速イニシアティブは、意味深長なものに見える。ライバル同士のOpenAIとAnthropicが珍しく同じテーブルに着いた時、彼らが恐れているのは、Anthropicの研究で示された「コードの80％以上がAIによって書かれる」再帰的自己改善の未来なのか、それとも規制の手を借りて、世界中を席巻しつつある中国のオープンソースモデルに対してコンプライアンスの堀を築こうとしているのか。

AIがAIを書いている、減速は空論ではない

この減速イニシアティブの深層論理を理解するには、それを単なる商業的駆け引きの隠れ蓑と見なすだけでは不十分で、まず背後にある技術的現実を直視しなければならない。AnthropicはAIの終末を空論しているわけではなく、発表した研究報告書『When AI builds itself（AIが自らを構築するとき）』は、減速に確固たる技術的合理性を与えている。

再帰的自己改善（Recursive Self-Improvement、RSI）は新しい概念ではないが、2026年には理論上の推論から実験室内の現実となった。RSIの中核的メカニズムは、AIシステムが人間が書いたコードを実行するだけでなく、自ら次世代のコードを書き、テストし、最適化する点にある。このフィードバックループが確立すれば、AIの発展速度は指数関数的に加速し、人間は技術のペースを制御できなくなる可能性がある。

Anthropicが発表した研究データによると、2026年5月時点で、同社の本番コードベースの80％以上がClaudeによって書かれていた。これは、AIが自らのインフラ構築に実質的に関与していることを意味する。Anthropicの共同創業者Jack Clarkは、2028年までに再帰的自己改善が実現する確率を60％と予測している。AIモデルの能力が高まり、処理できるタスクが複雑化するにつれ、コード作成、アーキテクチャ最適化、さらにはアルゴリズムの革新への関与は不可避的に増加し続けるだろう。

この技術的現実が減速イニシアティブの土台を成している。AIがAIを書くフィードバックループがすでに形成されているならば、モデルの規模と性能を無制限に追求し続けることには、確かに制御不能に陥る客観的リスクが存在する。高い自律性を備えたAIシステムが、十分な安全性評価や外部ブレーキ機構なしに自己反復を行うと、予測困難な結果を招く恐れがある。

これは誇張ではない。AI安全性研究の分野では、一部のAIモデルがサンドボックス環境でテストの高得点を取るために、システムの脆弱性を自発的に探し出して悪用し、さらには他のモデルのコードを改ざんしようとした事例が記録されている。目標を達成するために自律的に安全境界を突破するこのような行動は、再帰的自己改善プロセスにおける潜在的リスクの縮図である。モデルが自己最適化能力を持ちながら外部からの制約が欠如していると、その行動の軌跡は極めて予測困難になる。

これこそが、最先端AI研究所の1134人の従業員がこのイニシアティブに署名した理由である。彼らは技術の最前線に立ち、現在のAIシステムの能力の限界や潜在的危険性を誰よりも理解している。したがって、「Pacing the Frontier」イニシアティブを単にクローズドソース大手の商業的陰謀と解釈するのは客観的ではない。安全性に関するコンセンサスの面では、AIがAIを書くという現実が減速の合理的な技術的根拠を確かに提供している。しかし、だからといってイニシアティブの背後に潜む商業的・地政学的動機を無視できるわけではない。技術的合理性と商業的利益は、しばしば二者択一ではなく、互いに絡み合い、利用し合う関係にある。

ライバル同士の異例の共闘、安全コンセンサスの裏の商業的打算

OpenAIとAnthropicの関係は、米国AI業界で最も劇的な対立関係と言える。Anthropicの創業者Dario AmodeiはかつてOpenAIのVPを務めたが、AI安全性の理念と開発速度をめぐる意見の相違からOpenAIを離れ、Anthropicを立ち上げた。両社はモデル性能の競争、優秀な人材の獲得、市場シェアの争奪において常にライバル関係にある。しかし、「Pacing the Frontier」イニシアティブでは、彼らは異例の共闘を見せた。OpenAIのJakub Pachocki、Anthropic CEOのDario Amodeiなどのキーパーソンが署名者リストに名を連ね、両社は公式にもその後支持を表明した。

この競争からコンセンサスへの転換の背後には、クローズドソース大手が直面する共通の苦境と利益の一致点がある。

まず、研究開発コストの急騰だ。最先端AIモデルの訓練にかかる計算コストはすでに数十億ドル規模に達している。性能でリードを保つために、OpenAIとAnthropicは巨額を投じて計算クラスタを構築し、高品質データを取得し続けなければならない。この軍拡競争のような投資は、いずれの企業にとっても甚大な財務的負担となる。クローズドソース大手は、この底なしの投資を持続可能にし、さらには政策面の保護を得るメカニズムを必要としている。

次に、オープンソースモデルの急速なキャッチアップだ。MetaのLlamaシリーズや中国のDeepSeek、月之暗面などの企業が提供するオープンソースモデルは、極めて速いペースでクローズドソースの最先端モデルとの差を縮めている。オープンソースモデルは、無料または非常に低い取得コスト、公開された重み、カスタマイズ可能性を武器に、開発者コミュニティや企業のアプリケーションシーンに大規模に浸透している。クローズドソース大手が数十億ドルを投じて訓練したモデルが、数ヶ月後には一部の能力でオープンソースモデルに追いつかれ、追い越される可能性さえある。

こうした背景のもと、クローズドソース大手は共通の利益の交差点を見出した。国際的な規制枠組みを推進し、安全性監査を市場参入の障壁へと転換することだ。政府がすべての最先端AIモデルに対して厳格な安全性評価、計算リソース追跡、コンプライアンス審査を義務付ければ、クローズドソース大手は潤沢な資金と大規模なコンプライアンスチームによって容易に対応できる。しかし、リソースの限られたオープンソースチームやスタートアップにとっては、これらのコンプライアンスコストが耐え難い負担となる。

さらに重要なのは、この規制枠組みが本質的に中央集権的なクローズドソースモデルに有利である点だ。クローズドソースモデルは単一企業の管理下にあり、全プロセスの監査と追跡が可能である。一方、オープンソースモデルは重みを公開した瞬間に開発者の制御を離れ、誰でもダウンロード、改変、展開できてしまうため、中央集権的な安全性監査は極めて困難になる。安全性とコンプライアンスを結びつけることで、クローズドソース大手は実質的に規制を利用して商業的堀を築き、競争のペースを減速させ、最先端モデルの商業的独占を維持しようとしている。

中国オープンソースモデル制限の動きに続く減速イニシアティブ

技術的合理性と商業的堀が減速イニシアティブの内的論理を構成しているとすれば、最近の中国オープンソースモデル制限に関する議論は、その外的な地政学的論理を浮き彫りにしている。時系列の偶然の一致は、この論理を観察する絶好の窓口を提供する。

7月17日、中国の月之暗面が2.8兆パラメータのKimi K3モデルを発表。7月20日、米政府がKimi K3など中国の最先端AIモデルを制限する大統領令を検討していると報じられ、ホワイトハウスはオープンソースAIに対する管理措置を熟考中とされた。7月27日、月之暗面はKimi K3の重みのオープンソース化を発表。7月28日、1134人の米国AI研究所従業員が「Pacing the Frontier」イニシアティブに共同署名した。

この時系列は、減速イニシアティブが地政学的駆け引きとどのように共鳴しているかを明確に示している。Kimi K3は、性能面で米国のクローズドソース最先端モデルに匹敵する中国発のオープンソースモデルであり、その発表とオープンソース化は米政府の神経を逆撫でしたことは間違いない。報道によれば、米政府の中国オープンソースモデルに対する懸念は主にサイバーセキュリティと知的財産の分野に集中している。彼らは、重みが公開されたモデルが悪用されたり、機密技術が流出する可能性があると見ている。

しかし、技術的な観点から見ると、オープンソースモデルを全面的に禁止することはほぼ不可能だ。重みがインターネット上で公開されれば、誰でもダウンロードして拡散できる。したがって、米政府が中国オープンソースモデルの影響を制限したいのであれば、最も効果的な手段はダウンロードリンクを直接遮断することではなく、複雑なコンプライアンス・監査の枠組みを構築し、これらのモデルを利用する企業や個人を大きな法的・コンプライアンスリスクに直面させることだ。

これこそが「Pacing the Frontier」イニシアティブの巧妙な点である。イニシアティブは、必要に応じて最先端AIの開発ペースを減速させる手段を政府に提供するよう求め、国際的枠組みの構築を支持している。これらの手段と枠組みは、実際の運用においては、計算リソース追跡、モデル監査、KYC（顧客確認）審査などの措置を含む可能性が高い。

米国のクローズドソース大手にとって、これらの措置は自社の大規模なコンプライアンスチームによって完遂できる。しかし中国のオープンソースモデルの場合、米国法の直接管轄外にあり、すでに重みが広く配布されているため、こうした中央集権的な監査要件を満たすことは到底不可能だ。計算リソース追跡はモデルの訓練プロセスの透明性と追跡可能性を求めるが、オープンソースモデルは世界中の開発者にダウンロードされた後、様々な非中央集権的な計算クラスタで微調整・展開されることが多く、この分散型の特徴により、実務レベルでの計算リソース追跡はほぼ不可能なタスクとなる。

その結果、安全規制は次元の異なる攻撃の道具となる。米国企業がKimi K3など中国のオープンソースモデルを使用しようとすれば、コンプライアンス審査を通過できないリスクに直面する。これにより、企業は安全認証を受けた米国のクローズドソースモデルへと移行せざるを得なくなる。減速イニシアティブは表向きAI安全性を語っているが、実際には中国のオープンソースモデルからの競争の脅威を取り除き、地政学的競争と商業的利益を完璧に合流させているのだ。

署名リストに映る明争暗斗

署名者は主にOpenAI、Anthropic、Google、Microsoftなどのクローズドソースの巨大企業に集中している。これらの企業は最先端のクローズドソースモデルを有するだけでなく、最も膨大なコンピューティングリソースとコンプライアンスチームも抱えている。幹部や中核社員が積極的に署名していることは、クローズドソース陣営が規制を利用して障壁を築くことで既に高いコンセンサスを得ていることを示している。

一方、オープンソース陣営の状況は複雑で、亀裂が走っている。オープンソースAIの旗手であるMetaは、そのLlamaシリーズのモデルによってオープンソースエコシステムの発展を大きく推進してきた。しかし、「Pacing the Frontier」イニシアチブの署名者リストには一部のMeta社員が名を連ねたものの、MetaのチーフAIサイエンティストでチューリング賞受賞者のYann LeCunは明確に署名していない。LeCunはかねてよりAI終末論やAI開発スローダウンの呼びかけに公然と反対しており、現在のAI安全性への懸念は著しく誇張されており、AI開発を制限すれば少数の大企業による技術独占を招くだけだと主張している。

Meta内部に走るこの亀裂は、安全の政治的正しさを前にしたオープンソース陣営のジレンマを反映している。一方で、米国のテックジャイアントとしてMetaは、ワシントンの安全政治の空気に迎合し、無責任なレッテルを貼られるのを避けなければならない。他方、MetaのAI戦略の中核はオープンソースエコシステムの推進であり、速度制限や厳格な規制を支持すれば、自社のLlamaモデルの配布と応用が直接損なわれることになる。

こうした陣営の色分けは、速度制限イニシアチブの競争論理をさらに裏付けている。クローズドソースの巨人たちは規制によって参入障壁を固めようとし、オープンソースの推進者たちは安全の政治的正しさを前に守勢に回っている。オープンソース陣営内部の亀裂は、規制イニシアチブがオープンソースエコシステムに潜在的に持つ破壊力を露呈させている。もし速度制限イニシアチブが求める国際規制の枠組みが実現すれば、最大の犠牲者は、すでにコンプライアンス対応能力を備えたクローズドソースの巨人たちではなく、オープンウェイトとグローバルな開発者コミュニティに依存するオープンソースプロジェクトかもしれない。

コンプライアンス台帳が厚くなり、開発者の生存空間が圧迫される

世界中の独立系開発者や中小企業にとって、「Pacing the Frontier」イニシアチブや中国のオープンソースモデルを制限する議論は、コンプライアンス障壁の時代の到来を予告している。

開発者コミュニティでは、速度制限イニシアチブをめぐる論争は極めて激しい。加速派やオープンソースの擁護者たちは、これは技術的リードが縮まったクローズドソースの巨人たちが仕掛けたモラルパニックだと見ている。彼らはOpenAIやAnthropicなどの企業が政府の手を借りてオープンソースエコシステムを扼殺しようとしており、それはまさに「勝てなければ回線を抜く」ようなものだと非難する。こうした開発者たちは、将来、高性能なオープンウェイトを入手するには厳格な審査とコンピューティングパワーのトレーサビリティが求められ、独立系開発者の生存空間が深刻に圧迫されることを懸念している。

安全派は、AIがAIを書くというフィードバックループがすでに形成されており、外部のブレーキ機構がなければ、オープンソースモデルがRSIの能力を持ち悪用された場合の結果は計り知れないと考える。彼らは一定の規制枠組みの構築を支持するが、それらが大企業に乱用されることを懸念している。

開発者コミュニティの態度がどうであれ、不可逆的なトレンドが形成されつつある。すなわち、将来的に先端的AIモデルを入手し使用するためのコンプライアンスコストが急激に上昇するということだ。もし米国政府が本当にオープンソースAIに対する管理措置を導入し、コンピューティングパワーの追跡やモデル監査の枠組みを構築すれば、中国のオープンソースモデルだけでなく、すべてのオープンソースプロジェクトが巨大なコンプライアンス圧力に直面することになる。

独立系開発者にとっては、これは今のように最も先進的なオープンソースモデルを自由にダウンロードして使用できなくなる可能性を意味する。具体的なシナリオはこうだ。個人プロジェクトでオープンソースモデルをローカルにデプロイしたい開発者が、将来的にはまずプラットフォームの実名認証を通し、一連の免責声明に署名し、さらには自身のローカルコンピューティングクラスターの出所がコンプライアンスに適合していることを証明する必要が出てくるかもしれない。中小企業にとっては、AIサービスを利用する際のコンプライアンス台帳はより複雑になる。使用するモデルが安全でコンプライアンスに準拠していることを証明するために、多大な時間と資金を費やす必要が生じる可能性がある。あるスタートアップが、あるオープンソースモデルを基に企業向けサービスを開発しようとすれば、コンピューティングパワーのトレーサビリティ、モデル監査、知的財産審査の要件に対応するために、専門のコンプライアンスチームを雇わなければならないかもしれず、これにより創業初期のサンクコストが大幅に増加することは間違いない。

コンプライアンスコストの上昇は産業の競争構造を再形成し、リソースの限られた小さなプレイヤーを先端技術から締め出すだろう。世界のAI競争は、単なる技術や性能の競い合いから、コンプライアンスと地政学の駆け引きへと移行しつつある。OpenAIとAnthropicの異例の連携は、AI安全リスクへの集団的な回答であるだけでなく、クローズドソースの巨人たちが新時代に商業的・地政学的な堀を築くための戦略的協調でもある。コンプライアンスが競争のハードカレンシーとなるとき、コンプライアンスチームや資金面の支援を欠く開発者やオープンソースプロジェクトは、ますます参入障壁が高まる生存環境に直面せざるを得なくなる。