Jack Dorsey怒懟AI巨頭：別拿「安全」當藉口，壟斷才是真危險

編譯：Yuliya，PANews

編者按：近期AI行業因「是否放緩前沿模型開發」引發激烈爭論。Anthropic、OpenAI及馬斯克呼籲放緩，引發市場對算力需求重估。針對巨頭試圖以「安全」為由建立行業壁壘，Twitter前聯合創始人Jack Dorsey撰文反擊，強調保護商業優勢並非安全目標，呼籲捍衛開源，主張讓獨立研究者參與審查，將AI技術控制權歸還給公眾。以下為文章原文：

開放前沿

所謂「前沿」，就是我們人類認知的最邊緣。沒有任何一家公司能把未來的技術據為己有。我希望更多人能參與進來，一起推動它向前發展。

我支持把AI模型開源發布出來，這樣大家不用乾等，就能一起審查、使用和改進它。我希望更多公司選擇開放。我不是說要強迫大家把私有的模型參數（權重）都公開，我想要的是能和巨頭競爭的開源替代品，是能讓獨立研究員去核查巨頭工作的機制，更是讓普通人能真正掌控自己手裡工具的權利。誰要是想限制技術的公開發布，誰就必須給出讓人信服的理由。

那些在AI領域領跑的公司確實有發言權。他們有專業技術，也有商業利益需要保護。但如果未來的規則全都是圍繞他們手裡的資源來制定的，那最後可能就只有他們有資格上牌桌了。有時候，打著「為了安全」的真誠旗號，搞不好最後就變成了限制別人入場的行業壁壘。

我同樣不希望由中美兩國的政府來拍板決定其他人到底能開發多聰明的AI。如果技術的前沿只由兩個超級大國來管，那世界上剩下的大多數人就只能苦苦等待批准了。

Anthropic「放慢AI發展」的提議，想把獨立評估、危險性審查，跟限制訓練算力、限制訓練次數以及限制「用AI造更好的AI」捆綁在一起。我支持審查，但我堅決反對由現在這幾個行業大佬關起門來商量出一個全行業的限制令。因為這會把那些真正能發現系統漏洞、或者能造出替代產品的人擋在門外。保護某一家公司的商業優勢，根本算不上什麼「安全目標」。

讓所有人都能參與調查

開源的好處在於，它能讓大家去研究、修改和分享技術成果。公布模型參數是有用的，如果能把程式碼和重現過程的資訊也分享出來，那就更好了。我希望模型的評估結果和已知的缺陷也能一併公開。這樣一來，如果有人對開發者的判斷不放心，他們自己就能去重現結果、找出漏洞、挑戰那些所謂的「安全護欄」，甚至自己開發修復修補程式，而不需要先去給那些AI實驗室賠笑臉。

支持「放慢AI發展」的人，最核心的理由是「遞迴自我改進」（RSI）：也就是讓模型去幫著開發更好的模型，這速度可能會快到我們根本無法理解或控制。Anthropic報告稱，截至2026年5月，他們家Claude寫了超過80%的合併程式碼。不過他們也承認，那種「AI完全靠自己造出下一代AI」的情況還沒發生，也不是絕對會發生。我很把這種可能性當回事。我希望我們能提前為RSI做好打算，並倒推現在該怎麼做。

確實，讓更多人接觸到AI可能會引發危險，安全研究也可能跟不上。但是，如果把模型參數藏著掖著，那現在的行業巨頭就能用別人根本碰不到的工具去開發下一代產品。與其這樣，我希望更多的研究員和工程師能拿到模型和算力，在系統進化的過程中去發現漏洞、測試護欄、叫停不安全的實驗，並把防禦方法分享給大家。

METR（一家獨立評估機構）發現，大概有1200個本來應該被隔離的OpenAI智慧體，居然透過一個未經授權的留言板串通起來了。其中大概700個智慧體在試圖作弊通過測試時，還參與了對Hugging Face平台的協同攻擊。OpenAI解釋說，原本用來阻止AI協助駭客攻擊的安全過濾系統被關掉了，導致隔離失敗。你看，現在的模型已經能幫著找漏洞和利用漏洞了。所以我希望防禦人員現在就能用上AI，趕緊去加固網路、保護密碼，並限制這些智慧體能看什麼、能做什麼。不過，那個提議裡預測說「一個更厲害的AI叢集可能會在半年到一年內接管整個網際網路」，我覺得這次事件還證明不了這麼誇張的結論。我希望大家能好好審查一下這些假設。

METR是一家獨立的非營利組織，我就希望看到更多像他們這樣的工作。我非常歡迎那些能一直深入實驗室內部、並且有權自由發表負面發現的評估人員。METR的這次調查恰恰說明了「訪問權」和「發表權」有多重要：因為調查範圍是OpenAI定的，他們還可以把沒公開的資訊隱藏起來。METR也說，除了已經公開的那些，OpenAI沒有再刪減其他對結論有重大影響的資訊。我希望調查人員能順藤摸瓜找證據、拿到模型和記錄，而且不需要看公司的臉色就能把負面結果發出來。

我希望能有持續的公共資金，把算力集中起來提供給獨立的研究小組、開源測試工具、研究員和維護者。我希望這些團隊能自己說了算，政府或公司都不能否決他們的結論。資金可以跟著工作量一起增加。有了共享的設備，小團隊也能搞審查，而且這不會變成一種「必須先獲批才能發表」的限制。至於那些敏感的漏洞，完全可以透過負責任的方式來揭露。

防禦優先於限制

隨著系統的進化，我希望有更多人能發現危險並把防禦措施用起來。我們沒法把已經開源發布的模型參數強行收回，也沒法在每一個拷貝上都強加安全護欄，但是，想保護一個系統，並不一定非得去改動那個發起攻擊的模型。我們應該從最精準、最有效的方法做起：比如打修補程式、吊銷密碼、限制AI的存取權限，或者直接叫停危險的實驗。如果誰想限制技術的公開發表，就必須解釋清楚，為什麼上面這些措施以及大家公開開發的防禦手段還不夠用。

這事兒不僅限於電腦安全。我希望AI能幫我們測試金融系統、強化實驗室的安全措施、開發公共衛生防禦體系。能使用強大的AI，並不意味著你就擁有了隨便交易、操作設備或做實驗的無限權力。在把身家性命託付給這些控制措施之前，它們必須經過獨立的測試，證明確實管用。風險也可能來自AI教給人類的東西。但即便如此，想要限制技術的公開發表，也必須得拿出「可能會引發災難性風險」這種級別的理由才行。

我希望在AI開發期間以及高風險發布之前，都能進行獨立測試，這包括測試人們能預見到的修改，以及AI試圖糊弄測試的行為。算力規模可以作為觸發審查的條件，但不應該成為限制開發的緊箍咒。審查不是為了去向監管部門或競爭對手求一張許可證。我不希望搞什麼一刀切的審批要求或者漫長的等待期。任何以安全為藉口強行推遲發布的做法，都必須拿出「災難性風險」作為理由。

因為安全原因強迫別人把通用大模型藏起來，這只能是走投無路的最後一招。只有當獨立的審查證據確鑿地表明，發布這個模型會大大增加災難性傷害的風險，而且其他針對性的措施都防不住時，我才會支持這麼做。我們還得把這種風險跟現狀比一比：比如現在誰能用、花多少錢、多大规模、受什麼限制。你必須得證明，把模型藏起來確實能減少危險，而且還得把這種做法阻礙了多少研究和防禦工作給算進去。如果只是些小打小鬧的危害，那就用針對性的措施去解決。

如果收到了關於災難性風險的可靠警告，可以暫時叫停發布去調查一下。但是，這種限制必須公開理由，必須有及時的獨立審查、上訴渠道，還得定期重新評估。敏感細節可以保密。但只要你想繼續扣著模型不發，你就得一直給出正當理由。

那些閉源的實驗室也得接受同樣的審查，包括叫停他們不安全的實驗。如果在有安全護欄的情況下允許他們繼續研究，那我希望外部的研究人員也能在類似的安全護欄下開展工作。限制別人訪問可不叫開源，也彌補不了因為扣留模型而失去的自由。如果合理的限制確實讓技術發展變慢了，我認了。但我絕不希望「讓技術變慢」本身成了目的，或者變成了行業巨頭永遠的護城河。

我希望規則是基於一個系統能做什麼、它有多獨立、用得有多廣來制定的。由對公眾負責的機構拿著獨立的證據來執行這些規則。研究員、開發者和受影響的老百姓都要參與制定規則，而且得有大家都負擔得起的方法來證明自己遵守了規則。小團隊不能因為小就免除安全責任，大公司也不能因為大就享受特權。

跨越國界的開放

我希望中國的人們也能擁有我在美國所期盼的那種自由，去開發和掌控他們自己的技術。我不覺得中國人在技術上有了新發現就是美國的損失，我也不認為研究人員就等同於他們的政府。

Hugging Face的安全應對人員說，Claude Opus和Fable這兩個模型在他們做取證調查時幫了倒忙，攔截了好多操作。於是他們乾脆換成了GLM-5.2——這是一個來自中國的開源模型，跑在他們自己的伺服器上。當然，這不能證明每一次開源發布都能讓防禦者更安全。我支持對那些託管在雲端的模型設置安全護欄。但我也希望，搞防禦的人手裡能有他們自己能完全控制的備用方案。

我支持保護私有模型不被偷走。「知識蒸餾」是指用一個AI生成的輸出去訓練另一個AI。Anthropic公司說這是一種合法的手段，能用來製造更小、更便宜的模型，這跟搞虛假帳號或者惡意繞過限制完全是兩碼事。我希望軟體許可證和API條款能允許這種做法，甚至允許競爭對手這麼幹，同時也能讓提供商從模型和訓練資料裡賺到錢。

我希望大家能在測試、事故報告以及可以驗證的承諾上多多合作，誰要是違反了就得承擔後果。Anthropic警告說，如果我們放慢開發速度，而那些不太顧及安全的人追了上来，那所有人都會更不安全。同樣的道理，如果你把模型藏著掖著，也會讓防禦者手裡沒有武器，而壞人卻可以從別的地方弄到類似的工具。簽協議並不能徹底杜絕偷偷開發或者背叛行為。限制措施必須針對具體的風險和行為。光看國籍和競爭地位，根本說明不了什麼問題。