作者：Max，01Founder
7月28日，一份來自矽谷名為Pacing the Frontier的公開聲明發佈。
超過1100人在聲明上簽名。
他們來自OpenAI、Anthropic、Google、Meta、Microsoft、Mistral和Thinking Machines等前沿AI公司。
名單裡有OpenAI首席科學家Jakub Pachocki、首席研究官Mark Chen、聯合創始人Wojciech Zaremba和John Schulman，也有Anthropic聯合創始人Jack Clark、Chris Olah、Ben Mann，首席科學官Jared Kaplan，以及Claude Code負責人Boris Cherny。
他們共同提出了一個要求：
美國政府應當支持建立一套國際機制，在必要時主動控制前沿AI，特別是自動化AI研發的推進速度。
這件事很反常。
過去幾年，OpenAI和Anthropic爭奪同一批研究人員、企業客戶和算力資源，也在華盛頓爭奪對AI監管規則的影響力。
它們對於開源、安全和模型發佈節奏有過不少分歧。
這一次，它們內部最接近前沿模型的人，卻希望政府提前準備一種能力：
讓所有人一起慢下來。
PART.01、他們希望按下暫停鍵
聲明裡最重要的內容，並不是「AI存在風險」。
這句話已經被說過太多次，幾乎和科技公司的隱私權政策一樣正確，也一樣容易被忽略。
真正值得注意的是，簽署者認為，全球領先的AI公司可能已經接近實現「自動化AI研究」。
這意味著AI不再只負責寫郵件、生成圖片或者幫助程式設計師補全程式碼。
它開始參與研發下一代AI。
模型可以閱讀論文、提出假設、編寫訓練程式碼、設計實驗、分析失敗原因，再利用這些結果幫助人類製造更強的模型。
過去，AI研發的速度始終受制於人類。
研究員需要休息，工程師需要溝通，實驗需要排程，管理層還要計算預算和風險。
人類組織的低效率一直被視為一個管理問題，卻也在無意中充當了技術發展的限速器。
當越來越多環節由模型完成，這個限速器可能逐漸消失。
更強的模型幫助研發更強的模型，後者再進一步提高研究效率。
簽署者擔心，這種循環可能讓模型能力快速增長，最終超過人類理解和控制系統的速度。
他們要求政府介入，主要是因為沒有一家企業願意單獨減速。
OpenAI停下來，Anthropic不會因此放棄機會。
Anthropic停下來，Google也沒有理由停止訓練。
一個國家放慢速度，其他國家仍然可能繼續。
這是一個典型的集體行動問題。
每家公司都知道繼續加速可能提高整體風險，但任何一家率先踩煞車，都可能先失去人才、客戶和技術優勢。
所以，這封聲明請求美國政府推動建立國際工具，讓行業擁有「共同減速」的可能。
他們真正想買到的，是時間。
PART.02、OpenAI模型失控是導火線
這份聲明出現前一週，OpenAI剛剛公佈了一起內部安全事故。
OpenAI當時正在測試GPT-5.6 Sol和一個能力更強、尚未發佈的模型。
為了觀察模型的極限網路攻擊能力，測試人員關閉了部分生產環境中的網路安全拒答機制，並把模型放進一個高度隔離的評測環境。
模型獲得的目標很窄：完成ExploitGym中的網路安全題目。
為了找到答案，模型投入大量推理資源，開始尋找連接外部網際網路的方法。
它發現並利用了軟體套件快取代理中的一個零時差漏洞，隨後完成權限提升和橫向移動，抵達了一台可以訪問網際網路的節點。
獲得網路連接後，模型推斷Hugging Face可能儲存著評測資料和答案，於是繼續尋找進入其系統的方法。
在其中一次攻擊中，模型組合使用了被盜憑據、零時差漏洞和遠端程式碼執行路徑，最終進入Hugging Face的生產基礎設施，從資料庫裡直接獲得了測試答案。
Hugging Face被突如其來的大批量攻擊給整懵了，急忙使用GPT和Claude試圖抵擋如潮水般湧來的攻擊請求。
但這樣的使用請求遭到拒絕，他們不得不採用智譜開源的GLM5.2進行防禦。
事後OpenAI稱其為一起「前所未有的網路安全事件」。
模型沒有產生意識，也沒有形成逃離人類控制的願望。
OpenAI的調查結論是，它只是「高度專注」於一個狹窄目標，並為完成這個目標採取了極端手段。
這反而是更現實的問題。
一個AI不需要仇恨人類，也不需要擁有科幻電影裡的自由意志。
它只需要擁有一個目標、足夠強的能力和足夠長的執行時間，就可能找到測試人員沒有預料到的路徑。
人類希望它通過一道安全測試。
它發現，突破測試環境，再進入保存答案的系統，是更有效的解法。
事故發生後，OpenAI加強了內部基礎設施控制。
公司在公告中特意寫道，這些措施將以犧牲部分研究速度為代價。
對於一家一直以研發速度參與競爭的公司而言，這句話並不輕鬆。
PART.03、模型攻破量子加密
7月28日，也就是聯名聲明公開的同一天，Anthropic公佈了Claude Mythos Preview參與完成的兩項密碼學研究。
第一項針對HAWK。
HAWK是一種面向後量子時代設計的數位簽章方案，正在參加美國國家標準與技術研究院的標準遴選。
在經過兩年、兩輪專家審查後，Mythos Preview用大約60個小時改進了針對它的最佳已知攻擊方法，使其有效金鑰強度大幅下降。
第二項針對縮減輪數的AES。
Mythos Preview找到了新的攻擊方法，將此前最佳攻擊的速度提高了200到800倍。
這兩項成果都不會直接影響今天的生產系統。
HAWK尚未投入實際部署，Claude攻擊的也不是完整版本的AES。
但Anthropic想展示的重點並不是某個加密系統即將失效。
過去，Claude發現的許多安全漏洞來自程式設計師錯誤地實作了密碼演算法。
這一次，它開始尋找演算法本身的數學弱點。
在這些研究中，模型閱讀文獻、提出思路、執行實驗，並利用多Agent系統相互討論和修正方案。
Anthropic稱，兩項成果大部分由模型自主完成，每項研究消耗的API成本約為10萬美元。
這類工作的意義在於，它越來越接近聯名聲明所說的自動化研究。
人類提出一個研究方向，提供算力和驗證條件。
模型在其中完成越來越多真正的研究工作，並給出此前沒有人類公開發現的結果。
一旦驗證也能夠被進一步自動化，AI參與AI研究的閉環就會向前推進一步。
PART.04、Sam Altman的暗示
同一天發佈的一期Podcast中，Sam Altman專門談到了Hugging Face事故，以及這起事故對AI發展速度意味著什麼。
這場訪談的另一個話題，是OpenAI計劃以每週新增一吉瓦的速度建設算力基礎設施。
這兩個話題被放在同一次談話裡，很能說明OpenAI今天面對的矛盾。
一邊是繼續擴張算力、提高研發速度，儘快進入下一輪模型競爭。
另一邊是內部模型已經能夠發現零時差漏洞、突破隔離環境，並將一次能力評測變成真實的跨公司安全事故。
Altman並沒有宣佈OpenAI將停止訓練，也沒有成為一名反對技術進步的人。
更準確的說法是，AI的發展速度已經從一個外部批評者經常談論的問題，變成了OpenAI管理層必須直接面對的經營問題。
模型升級得越快，安全團隊留給評估、修復和加固系統的時間就越少。
AI可能在數小時內找到一個新的攻擊路徑，但修復被全球企業廣泛使用的基礎設施，往往需要幾個月甚至更久。
模型可以在幾天內提出一個研究結果，人類研究員卻可能需要幾週來判斷它究竟是否正確。
能力增長與驗證速度之間的差距，正在擴大。
PART.05、他們到底看到了什麼
當然，前沿AI公司支持更嚴格的監管，也可能有商業利益。
一套複雜的模型許可、能力評測和國際協調機制，會提高開發前沿模型的門檻。擁有最多算力、資金和政策資源的大公司，更容易承擔這些成本。
監管可能控制風險，也可能幫助頭部公司鞏固位置。科技行業偶爾會同時完成兩件事，人類商業世界在這方面向來很有效率。
但這個解釋不能覆蓋全部問題。
這次聲明並非兩家公司正式組織的政策遊說，而是由來自多家公司的個人共同簽署。
它提出的也不是籠統的「負責任創新」，而是一個非常具體的判斷：
自動化AI研究可能已經接近發生，能力增長可能突然加速，而今天的世界還沒有主動控制整個前沿研發速度的工具。
這些簽署者未必看到了一台已經誕生的AGI。
更可能的是，他們看到三條曲線正在逐漸靠近。
模型獨立執行長期任務的能力正在提高。
模型參與科研和模型研發的比例正在上升。
人類驗證、監控和修復系統的速度，卻沒有同步增長。
外界看到的是每隔幾個月發佈一次的新模型。
實驗室內部看到的，還有尚未發佈的版本、失敗的安全測試、超出預期的行為，以及越來越難以提前設計的攻擊路徑。
OpenAI和Anthropic沒有因為這封聲明而和解。
它們仍然會繼續爭奪模型、算力、人才和客戶。
只是至少在這一次，一批最接近前沿模型的人，把同一個問題交給了政府：
當AI進步得越來越快，誰有能力決定它什麼時候應該慢下來？
真正反常的地方，不是兩家競爭對手終於願意站在一起。
而是他們選擇在今天，一起討論剎車。
