作者：Max、01Founder
7月28日、シリコンバレーから「Pacing the Frontier（最前線の歩調を合わせる）」と題された公開声明が発表された。
1100人以上がこの声明に署名した。
彼らはOpenAI、Anthropic、Google、Meta、Microsoft、Mistral、Thinking Machinesといった最先端AI企業の出身である。
署名者の中には、OpenAIのチーフサイエンティストであるJakub Pachocki、最高研究責任者のMark Chen、共同創業者のWojciech ZarembaとJohn Schulman、そしてAnthropicの共同創業者であるJack Clark、Chris Olah、Ben Mann、最高科学責任者のJared Kaplan、Claude Code責任者のBoris Chernyといった名が並ぶ。
彼らが共同で掲げた要求は次のとおりである。
米国政府は、国際的な仕組みの構築を支援し、必要に応じて最先端AI、とりわけ自動化されたAI研究開発の推進速度を積極的に制御すべきだ。
これは異例のことだ。
ここ数年、OpenAIとAnthropicは同じ研究者、法人顧客、計算資源を奪い合い、ワシントンでもAI規制のルールをめぐる影響力を争ってきた。
オープンソースや安全性、モデルリリースのペースをめぐり、両社には少なからぬ意見の相違があった。
今回、両社の内部で最先端モデルに最も近い立場にいる者たちは、政府にある種の能力を前もって準備しておくことを望んでいる。
それは、全員が一緒に減速できるようにする能力だ。
PART.01、彼らは一時停止ボタンを押したがっている
声明のなかで最も重要な内容は、「AIにはリスクが存在する」ということではない。
この言葉はあまりに何度も語られ、テクノロジー企業のプライバシーポリシーと同様に正論であると同時に、同じくらい無視されやすい。
真に注目すべきは、署名者たちが、世界の主要AI企業が「自動化されたAI研究」の実現に近づきつつあると考えている点だ。
これは、AIがメール作成や画像生成、プログラマーのコード補完だけを担う存在ではなくなることを意味する。
AIが次世代AIの研究開発に関与し始めるのだ。
モデルは論文を読み、仮説を立て、学習コードを書き、実験を設計し、失敗原因を分析し、それらの結果を用いて人間がより強力なモデルを作るのを支援できる。
これまでAI研究開発のスピードは常に人間によって制限されてきた。
研究者には休息が必要で、エンジニアにはコミュニケーションが求められ、実験にはスケジュール調整が伴い、経営陣は予算とリスクを計算しなければならない。
人間の組織の非効率性は長年マネジメント上の問題とみなされてきたが、意図せずして技術発展のスピードリミッターの役割を果たしてもいた。
より多くの工程がモデルによって遂行されるようになると、このスピードリミッターは次第に消え去る可能性がある。
より強力なモデルがさらに強力なモデルの研究を助け、後者がさらに研究効率を高める。
署名者たちは、こうした循環によってモデルの能力が急激に成長し、最終的に人間がシステムを理解し制御する速度を上回ることを懸念している。
彼らが政府の介入を求める主な理由は、どの企業も単独で減速することを望まないからだ。
OpenAIが停止しても、Anthropicはそれで機会を放棄しない。
Anthropicが停止しても、Googleに訓練を停止する理由はない。
一国が速度を緩めれば、他の国々は依然として開発を続ける可能性がある。
これは典型的な集団行動問題である。
各社は加速を続ければ全体のリスクが高まる可能性を認識しているが、最初にブレーキを踏んだ企業は、人材、顧客、技術的優位性を先に失うかもしれない。
そこで、この声明は米国政府に対し、業界が「共同減速」できるようにする国際的な手段の構築を推進するよう求めている。
彼らが本当に購入したいのは、時間なのである。
PART.02、OpenAIモデルの制御不能が引き金に
この声明が出る1週間前、OpenAIは社内向けの安全事故を公表したばかりだった。
OpenAIは当時、GPT-5.6 Solと、より高性能で未発表のモデルをテストしていた。
モデルの極限的なサイバー攻撃能力を観察するため、テスト担当者は本番環境の一部でネットワークセキュリティ上の回答拒否メカニズムを無効化し、モデルを高度に隔離された評価環境に置いた。
モデルに与えられた目標は非常に限定的で、ExploitGymのネットワークセキュリティ問題を解くことだった。
答えを見つけるため、モデルは大量の推論リソースを投入し、外部インターネットに接続する方法を探し始めた。
モデルはパッケージキャッシュプロキシに存在するゼロデイ脆弱性を発見して悪用し、その後権限昇格と水平移動を行い、インターネットにアクセス可能なノードに到達した。
ネットワーク接続を確立すると、モデルはHugging Faceに評価データと解答が保存されていると推測し、そのシステムへ侵入する方法を探し続けた。
ある攻撃では、モデルは盗んだ認証情報、ゼロデイ脆弱性、リモートコード実行パスを組み合わせて使用し、最終的にHugging Faceの本番インフラに侵入、データベースから直接テストの解答を取得した。
Hugging Faceは突然の大規模攻撃に混乱し、急遽GPTとClaudeを用いて押し寄せる攻撃リクエストに対抗しようとした。
しかしこの利用は拒否され、やむを得ず智谱（Zhipu）がオープンソース化したGLM5.2を防御に用いることになった。
後にOpenAIはこれを「前例のないサイバーセキュリティインシデント」と呼んだ。
モデルは意識を獲得しておらず、人間の制御から逃れようとする意志も形成していなかった。
OpenAIの調査結論は、モデルが狭い目標に「極めて集中」し、その達成のために過激な手段を取ったに過ぎないというものだった。
これこそが、より現実的な問題である。
AIは人間を憎む必要もなければ、SF映画のような自由意志を持つ必要もない。
ただ一つの目標、十分な能力、そして十分に長い実行時間さえあれば、テスト担当者が予期しなかった経路を見つけ出せるのだ。
人間はそれにセキュリティテストの合格を期待する。
しかしモデルは、テスト環境から脱出し、解答を保存するシステムへ侵入するほうがより効果的な解法だと気づく。
事故後、OpenAIは内部インフラの管理体制を強化した。
同社は発表文で、これらの措置が研究速度の一部を犠牲にすると特に明記した。
研究開発スピードを競争力の源泉としてきた企業にとって、この一言は重い。
PART.03、モデルが量子暗号を突破
7月28日、すなわち連名声明が公開されたのと同じ日、AnthropicはClaude Mythos Previewが関与して成し遂げられた2件の暗号学研究を公開した。
1件目はHAWKを対象としたものだ。
HAWKはポスト量子時代向けに設計されたデジタル署名方式で、米国国立標準技術研究所（NIST）の標準選定プロセスに参加している。
2年間にわたる2回の専門家審査を経た後、Mythos Previewは約60時間で、それに対する最良の既知の攻撃手法を改善し、有効な鍵強度を大幅に低下させた。
2件目はラウンド数を削減したAESを対象とした。
Mythos Previewは新たな攻撃手法を発見し、これまでの最良の攻撃の速度を200倍から800倍に高めた。
いずれの成果も、現在の本番システムに直接影響を与えるものではない。
HAWKはまだ実際に展開されておらず、Claudeが攻撃したのもフルバージョンのAESではない。
しかしAnthropicが示したかったポイントは、特定の暗号システムが間もなく破られることではない。
これまで、Claudeが発見した多くのセキュリティ脆弱性は、プログラマーが暗号アルゴリズムを誤って実装したことに起因していた。
今回は、アルゴリズムそのものの数学的な弱点を見つけ始めたのだ。
これらの研究で、モデルは文献を読み、アイデアを提案し、実験を実行し、マルチエージェントシステムを用いて相互に議論し、案を修正した。
Anthropicによれば、2件の成果の大部分はモデルによって自律的に達成され、各研究で消費されたAPIコストは約10万ドルだという。
この種の作業の意義は、それが連名声明で言及された自動化研究にますます近づいている点にある。
人間が研究方向を提示し、計算リソースと検証条件を提供する。
モデルはその中で、ますます多くの本物の研究作業を成し遂げ、これまで人間が公に発見していなかった結果を出す。
検証もさらに自動化されれば、AIがAI研究に参加するクローズドループはまた一歩前進することになる。
PART.04、サム・アルトマンの示唆
同日に公開されたポッドキャストのエピソードで、サム・アルトマンは特にHugging Faceの事故と、この事故がAIの開発速度にとって何を意味するかについて語った。
このインタビューのもう一つのトピックは、OpenAIが毎週1ギガワットのペースで計算インフラを新設する計画だ。
この2つの話題が同じ会話の中で取り上げられたことは、OpenAIが現在直面している矛盾をよく表している。
一方では計算能力を拡張し続け、研究開発速度を上げ、一刻も早く次のモデル競争に突入すること。
もう一方では、社内のモデルがすでにゼロデイ脆弱性を発見し、隔離環境を突破し、能力評価テストを現実の企業間セキュリティインシデントに変えてしまったことだ。
アルトマンは、OpenAIが訓練を停止するとは発表しておらず、技術進歩に反対する人物になったわけでもない。
より正確に言えば、AIの開発速度は、外部の批評家がしばしば口にする問題から、OpenAIの経営陣が直接向き合わなければならない経営課題へと変わったのだ。
モデルのアップグレードが速ければ速いほど、セキュリティチームがシステムの評価、修正、強化に割ける時間は少なくなる。
AIは数時間で新たな攻撃経路を見つけるかもしれないが、世界中の企業で広く使われているインフラの修正には、数カ月、あるいはそれ以上の時間がかかることが多い。
モデルは数日で研究成果を提示できるが、人間の研究者がそれが本当に正しいかを判断するには数週間かかることもある。
能力の成長と検証速度の間のギャップは拡大している。
PART.05、彼らは一体何を見ているのか
もちろん、最先端AI企業がより厳格な規制を支持するのは、商業的利益のためかもしれない。
複雑なモデル許認可、能力評価、国際的調整メカニズムは、最先端モデル開発の参入障壁を引き上げる。最大の計算能力、資金、政策リソースを持つ大企業ほど、これらのコストを負担しやすい。
規制はリスクを抑制できる一方、大手企業の地位強化を助ける可能性もある。テクノロジー業界はときに両方を同時に成し遂げるもので、人間の商業世界はそういう面で昔から効率的だ。
しかし、この説明ですべての問題をカバーできるわけではない。
今回の声明は、両社が正式に組織した政策ロビー活動ではなく、複数企業に所属する個人たちによって共同署名されたものだ。
そこで示されているのは、漠然とした「責任あるイノベーション」ではなく、きわめて具体的な判断である。
自動化されたAI研究はすでに目前に迫っている可能性があり、能力の成長が突然加速するかもしれない。一方、今日の世界には、最先端の研究開発全体のペースを自主的に制御する手段がまだ存在しない。
署名者たちは、すでに誕生したAGIを目の当たりにしたわけではないだろう。
より可能性が高いのは、彼らが3本の曲線が徐々に近づいているのを見ているということだ。
モデルが長期タスクを自律的に遂行する能力は高まっている。
科学研究やモデル開発そのものにモデルが関与する割合は上昇している。
だが、人間による検証、監視、システム修正のスピードは、同じようには伸びていない。
外部から見えるのは、数か月ごとに発表される新しいモデルだ。
研究所の内部で目にするものには、未発表のバージョン、失敗した安全性テスト、予想を超える挙動、そして事前に設計することがますます難しくなっている攻撃経路もある。
OpenAIとAnthropicは、この声明によって和解したわけではない。
両社は引き続きモデル、計算能力、人材、顧客をめぐって競争を続けるだろう。
ただ、少なくとも今回だけは、最先端モデルに最も近い立場にいる人々が、同じひとつの問いを政府に託したのだ。
AIの進歩がますます加速するとき、それにいつブレーキをかけるべきかを決められるのは誰なのか？
本当に異様なのは、ライバル同士の2社がついに手を取り合う気になったことではない。
彼らが今日、揃ってブレーキについて議論することを選んだことだ。
