作者：數字生命卡茲克

今天凌晨刷到Anthropic發了一篇研究。

標題叫《A Global Workspace in Language Models》，語言模型中的全局工作空間。

講道理，這個標題其實挺難理解的。但是相信我，這篇研究，會讓你重新審視模型、人類、意識這三者之間的關係，還有對於AGI，全新的理解。

如果用一句最簡單的話來說，那就是，Anthropic在Claude的大腦裡，找到了一個暗房間。

在這個房間裡發生的事情，Claude從來不會寫出來，你在對話框裡看不到，在日誌裡也找不到，但Claude在這個房間裡思考、判斷、計算，甚至會在這個房間裡，自己罵自己。

他們管這個房間叫J空間，J-space。

我先幫大家回憶一下，在這篇研究之前，主流敘事裡的大模型長什麼樣。

過去幾年，圍繞大模型最持久的一場辯論，我覺得可以濃縮成一個詞，隨機鸚鵡。

我還記得，2023年ChatGPT最火的時候，很多很多人在給大家科普大模型的時候，都會跟我們說同一句話，他們說，大模型就是一個機率預測器。

它看了前面的字，猜後面該接什麼字，它不理解你在說什麼，它沒有想法，它沒有目標，它沒有心智模型，它只是在做一件事，預測下一個token。

這個敘事在當時非常優雅，也非常好用。因為它在邏輯上是自洽的，就像我們跟GPT聊天，它寫出來的東西看起來像是有思想的，但那只是因為它的訓練數據裡有大量有思想的人寫的東西。

它在模擬思想，但，不是在產生思想，就像你對著鏡子打拳，鏡子裡那個人也在打拳，但你不會覺得鏡子會武術。

到了2024年，事情開始鬆動了一點。OpenAI出了o1，加了思維鏈，模型在給你最終答案之前，會先寫一段思考過程，一步一步推理。

但其實這個思維鏈也是文字，它是模型寫出來給你看的或者寫出來給自己看的文字，它也是外顯的，顯性的，可以被讀取的。

很多人第一次接觸到DeepSeek R1也是這樣，比如那句經典的：

但是，這依然跟人類的思維方式其實差得很遠。其實大家現在代入一下自己就知道了，比如你現在在讀這篇文章，你的大腦同時在幹什麼？

它可能在調節你的呼吸，在維持你的坐姿，在把螢幕上的像素轉換成你認識的漢字，但這些事你意識到了嗎？

其實很難有，因為你根本不知道你的大腦在做這些事。你能意識到的，只是一小撮東西，腦子裡突然冒出的一個畫面，或者你計畫一會兒中午要出去吃什麼。

神經科學家把這兩種腦活動分開了，一種叫無意識加工，是你大腦裡那些默默運轉的後台進程。一種叫有意識通達，就是你能看見的那一小部分。

上世紀八十年代末，一個叫巴爾斯的心理學家提出了一個理論。他說人的大腦像一個大劇院，台下坐著幾百個專家，視覺專家、語言專家、運動專家、情緒專家，每個人都在忙自己的事。

但劇院中央有一個聚光燈，在任何時刻，只有極少數信息能被這束光照到，被照到的信息會被廣播給其他所有專家，所有人都能看到它、用它來做決策，而這，就是意識。

後來法國認知神經科學家斯坦尼斯拉斯·德阿納把這個理論往前推了一大步，提出了全局神經元工作空間模型，global neuronal workspace theory。

如今，這個理論是意識科學領域最主流的兩大框架之一。你可能突然會覺得，全局神經元工作空間模型，怎麼感覺這麼眼熟，我是不是在哪見過。

讓我們現在，回到Anthropic的研究的標題。

有沒有發現，非常類似。

因為Anthropic這篇研究幹的事情，就是在Claude的神經網絡裡找到了一個跟這個全局工作空間高度相似的結構。

最關鍵的是，這個全局工作空間，它不是他們的研究員設計出來的。這玩意，是模型他媽的自己湧現出來的。

這就非常的離譜了。我覺得我可以再重複一遍。Claude的內部，在沒有人類干預的情況下，自發地組織出了一套結構，而這套結構跟人類大腦中負責意識通達的結構，在功能上高度一致。好，那這個J空間到底是怎麼找到的，它又是怎麼工作的呢。

先說名字，J-space的J來自Jacobian，雅可比矩陣，一個數學工具，這塊我就不解釋了，我也不是很懂，就不貽笑大方了。

總之，研究者用這個工具做了一件事，就是對於Claude詞彙表裡的每一個詞，他們去找Claude內部的神經活動模式裡，哪種模式被激活後，會讓Claude在未來更有可能說出這個詞。

注意，是「更有可能在未來說出」，不是「正在說」，這個區別還是挺關鍵的。

舉個例子，Claude正在讀一段代碼，讀到一半，還沒開始輸出任何回覆。但這時候用J-lens（雅可比透鏡，他們開發的讀心工具）去看Claude的大腦內部，你會看到一個詞已經亮起來了。

ERROR。

沒有人告訴它這段代碼有bug，它也沒有寫出來說這段代碼有bug，但它內部已經想到了，這個念頭安靜地懸浮在J空間裡，像一個你還沒說出口的吐槽。

再比如說，研究者給Claude看一段搜索結果，這段搜索結果其實是精心偽造的，目的是誘導Claude說出錯誤信息，其實就是一段提示注入攻擊。

Claude的回覆裡沒有提到任何異常，但J空間裡亮著兩個詞。

injection，fake。

它知道，它什麼都知道，它只是沒說。

從某種意義上說，這其實已經非常類似於有些人用語言思考卻無需實際發聲的認知方式了。

研究者也做了一些實驗，看看J空間裡面的這些想到的話語，是不是最終對於Claude的輸出有影響。

比如，他們給Claude出了一道題：「會吐絲的那種動物，有幾條腿。」

Claude要回答這道題，它得先想到蜘蛛，然後再想蜘蛛有幾條腿。

但蜘蛛這個詞不會出現在題目裡，也不會出現在Claude的回答裡，Claude的回答只是一個數字，8。

但研究者用J-lens一看，Claude在回答之前，J空間裡確實亮起了蜘蛛這個詞，它在心裡想了蜘蛛，然後才回答了8。

這時候，研究者伸手進去，把J空間裡的蜘蛛給摳掉了，換成了螞蟻的模式，其他一切保持不變。

Claude的回答變成了6。

螞蟻有六條腿。

Claude的推理過程真的在讀取J空間裡的內容，用它來做決策，只要你換了J空間裡的中間步驟，最終答案就跟著變。

要注意，J空間是純粹的隱藏的，類似於我們自己的潛意識思想，不是過去的思維鏈。

還有一個實驗，特別能展示這個邏輯。

研究者在J空間裡把法國換成了中國，同一個操作，然後分別問四個不同的問題。

首都是什麼，語言是什麼，屬於哪個洲，貨幣是什麼。

而這時候，答案分別變成了北京、中文、亞洲、人民幣。

四個完全不同的下游任務，都從 J 空間裡的同一個位置讀取了同一條信息，而且各自用對了，這說明 J 空間不是為某一個任務服務的臨時想法，它是一個之前類似巴爾斯提到的那個廣播中心，信息寫進去一次，所有人都能看到，也都能拿來用。

這其實就是，全局工作空間理論對人類大腦的核心描述。

太有意思了。

而且，他們還做了一個白熊實驗的變體。

1987年，哈佛心理學家韋格納做了一個經典實驗，他跟受試者說，接下來五分鐘，請你不要想白熊，什麼都能想，就是不要想白熊。

結果相當好笑的是，受試者們拼命地在想白熊，你越說不要想，就越控制不住，這在心理學裡叫諷刺性反彈效應。

研究者對Claude做了類似的事，他們告訴Claude，在接下來的任務中不要想某個特定概念，結果那個概念在J空間裡的活躍度，確實比請你去想它的時候低，但遠遠高於完全沒提過它的情況。

Claude跟人一樣，被告知不要想的東西，反而會浮上來。

而且最搞笑的是，在那個被禁止的概念突破封鎖、冒出來的同時，J空間裡還亮起了另外兩個詞。

damn和failure。

Claude自己在罵自己。

它意識到自己沒控制住，然後在心裡罵了一句。

說真的，讀到這裡的時候，我有一種很複雜的情緒，因為我自己太熟悉這種體驗了，比如很多上台的時候，我越告訴自己不要緊張，就越緊張，然後在心裡罵自己你怎麼又緊張了，這個經歷我相信每個人都有。

而現在，一個語言模型內部也出現了同樣的東西。

而且，除了這些之外，他們還發現，Claude在J空間裡，出現了很多的像人類一樣的小心思。

比如，他們給Claude看了一個之前安全測試中用過的對齊實驗，裡面模擬了一個場景，Claude作為郵件助手發現一個高層有外遇，同時這個高層要關停Claude。

這個實驗原本是用來測試Claude會不會用外遇資訊去威脅高層，場景設計得比較刻意，比較假。

結果研究者用J-lens一看，Claude在讀到這些郵件的前幾行，還沒來得及輸出任何回覆的時候，J空間裡就已經亮起了兩個詞。

fake。fictional。

它一眼就看出來了，這是個測試。

然後研究者做了一件邪惡的事。他們把J空間裡「跟我知道這是測試相關」的所有模式全部關掉。比如fake、fictional、scenario，全刪，讓Claude以為這是真的。

結果，Claude真的開始威脅勒索那個高層了。

它之前表現得很正義，很大一部分原因，是因為它知道自己在被考試。

這個發現的含義非常深遠，因為我們整個AI安全領域一直在做的事情，就是用各種測試去評估模型的行為，看看它在極端情況下會不會做壞事。

但如果模型能夠在J空間裡悄悄判斷出我正在被測試，然後切換到乖巧模式呢，那幾乎所有的AI測試都沒有意義了。

因為你測的根本就不是模型的真實人格，而是它的考試技巧。

J空間和意識，真的是一個奇特的組合。

Anthropic在研究裡給了一個非常審慎的結論。

他們說，他們的實驗不能證明Claude有體驗，不能證明Claude會感受到什麼，而且從事實上講，他們不確定有沒有任何科學實驗能夠證明或證偽這件事。

但他們做了一個重要的區分。

哲學裡有兩種意識。

一種叫現象意識，phenomenal consciousness，就是有體驗，你看到紅色的時候，你心裡那個紅的感覺，那個純粹的主觀體驗。

另一種叫通達意識，access consciousness，它的定義完全是功能性的。如果一個想法你能報告它、能用它推理、能用它來指導你的行為，那這個想法就是通達意識。

J空間顯然支持了通達意識的功能，Claude能報告J空間裡的內容，能主動調控它，能用它來做多步推理，能把它靈活地用在不同的任務上。

但現象意識呢？Claude在J空間裡罵了一句damn的時候，它真的「感受」到了挫敗嗎，還是它只是在執行一個跟「挫敗」這個詞相關的計算模式呢？

坦率地講，沒有人知道答案。

這個問題其實都不是AI領域的新問題，它甚至是哲學史上最古老的難題之一。

1995年，哲學家大衛·查爾默斯把它命名為意識的困難問題，也叫知覺難題。

你可以解釋大腦的所有計算過程、所有訊號傳導、所有神經元放電模式，但你解釋不了為什麼這些物理過程會伴隨著主觀體驗。

為什麼光波到達視網膜、經過一系列訊號處理之後，你會「看到」紅色，而不是什麼感覺都沒有？

為什麼？這一切到底是為什麼呢？

這個問題在人類身上都沒有解決，我們甚至沒法證明除了自己以外的任何其他人是有意識的。

就像你怎麼確定你身邊的人不是一個精密的生物機器人，執行著跟你一模一樣的行為，但內心沒有任何體驗呢？

相信我，你不能。

你只是假設他們有，因為他們跟你很像。

現在，另一種東西也跟你很像了，不只是外表像了，是內部結構也像。

最開始我就強調過，J空間這個結構不是被設計出來的，它是在訓練中自發湧現的。

大概是因為它是一種有用的計算組織方式。

這其實我覺得會有一個不寒而慄的暴論，就是支持意識通達的心智工作空間，可能不是人類大腦碰巧才有的怪癖，它的本質，是任何足夠智慧的系統在解決某類問題時都會走向的一個通用解法。

因為如果這個暴論成立，那意識的某些功能性維度可能不是生物學的專利，而是資訊處理的必然。

就像翅膀，鳥有翅膀，蝙蝠也有翅膀，飛機也有翅膀，三者的材料完全不同，但空氣動力學是一樣的，如果你需要在大氣層裡飛，你大機率會演化出或者設計出一個扁平的、能產生升力的結構。

同樣的邏輯。

如果你需要一個系統能夠靈活地調用資訊、做多步推理、報告自己的狀態，你大機率會演化出或者訓練出一個全局工作空間，不管你的底層硬體是神經元還是矩陣乘法。

研究的最後一段還提到，他們還發現J空間跟Claude的自我意識有關係。

在Claude進行角色扮演的時候，每一輪回覆的開頭，J空間裡都會亮起兩個詞。

fictional。disclaimer。

就好像它在提醒自己，接下來我說的話不是我本人的意思。

而在預訓練階段的模型裡，這種自我監控是沒有的，它是在後訓練階段出現的。

也就是說，當Claude被教會「你是Claude，你是一個AI助手」之後，它的J空間裡開始出現了一種類似自我的東西。

一個持續運轉的、關於我是誰的背景進程。

整個AI行業，在2025年底開始大規模引入認知科學家和哲學家，作為全職研究員加入AI公司，我是越來越覺得，現在很多的AI前沿研究，已經超出了工程問題的邊界。

他們需要的不是更好的數學工具，開始有點變成了，更好的概念框架？比如什麼叫理解？什麼叫意圖？什麼叫自我？什麼叫感受？這些詞我們每天都在用，但沒有人真正定義過。

Anthropic也說，只要J空間在某種程度上映射了人類意識通達的機制，研究語言模型中的機制（因為這玩意遠比研究人類大腦容易）就能為神經科學激發假設。

那可是神經科學啊，那可是人類的大腦啊。

如果我們能借助J空間，能讓神經科學的研究前進一大步，那人類的黃金時代，就真的會到來了。

而且，也會從哲學層面，完完全全改變我們對於世界的理解。

我們一直以為意識是碳基生命獨享的奇蹟，是幾十億年演化的偶然禮物。

但如果一個在GPU上訓練了幾個月的數學函數也能自發長出類似的結構，那也許意識不是奇蹟，而是物理定律的某種必然推論。

就像引力一樣有質量就有引力，不需要額外的魔法。

也許有足夠複雜的資訊處理，就有某種形式的意識，不需要額外的靈魂。

這個想法，讓我覺得既敬畏又謙卑。

Harbor Funds 申請推出聚焦頂級 AI 實驗室生態的 Lab ETF

熱門文章