作者:Hugo,Robonaissance
編譯:深潮 TechFlow
**深潮導讀:**從早期 Atari 遊戲智能體到擁有數百萬上下文窗口的大語言模型,人工智能在跨越時間進行連續決策時,始終面臨著一個根本性的物理矛盾:模型能夠輕易容納人類既有的海量靜態知識,但在動態交互環境中,卻無法將過去的全部細節無損隨身攜帶。
在有限算力與上下文窗口的硬約束下,如何在壓縮過去的同時準確提煉決定未來的核心狀態,不僅是解決“感知混淆”的技術突破口,更是當下自主智能體邁向真正持久記憶的底層邏輯。
定格畫面下的狀態悖論
這是《機器中的記憶、遺忘與自我》系列第 3 期:當智能體無法隨身攜帶全部過去時,智能究竟如何跨越時間展開行動。
試著在任何一幀畫面定格經典的 Pong 彈球遊戲。
畫面中只有兩隻球拍、一個球和當下的比分。此時如果讓你說出球正在飛向何方,你根本做不到,即使給機器展示同一張靜態畫面,機器也同樣無法判斷。
學者 Matthew Hausknecht 與 Peter Stone 在 2015 年關於學習玩 Atari 遊戲的智能體論文中直截了當地指出:“當前的單幀屏幕只能揭示球拍和球的位置,卻無法揭示球的速度。”
他們接著解釋了為什麼這至關重要:“獲知球的移動方向,是決定球拍最佳位置的關鍵要素。”
這個定格畫面是精準的,畫面上的每一處細節都處在它該在的位置上。但光憑這單幀畫面,依然不足以進行這場遊戲。
傳感器在當下這一瞬間所捕獲的,僅僅是一次“觀測值(Observation)”。
而智能體下一步行動所依賴的真實全局,則是“系統狀態(State)”。
在 Pong 遊戲中,觀測值與系統狀態在每一個單幀切片上都是彼此割裂的。因為球的移動方向是一項關於過去幾個瞬間的事實,沒有任何一個孤立的瞬間能夠單獨包含它。
當眼前的即時輸入無法滿足決策時,一個表現良好的系統就必須從它的過去中向當下承載某些信息。
但它所承載的永遠不可能是完整的過去。它所承載的只是一份摘要,而這份摘要的取捨,完全取決於它下一步需要預測什麼。
這個取捨決定了後續時刻擁有怎樣的信息基礎。任何被摘要遺漏的細節,後續時刻都將永遠無法基於它做出反應。
四幀深度的記憶折衷
Hausknecht 與 Stone 當時所回應的系統,正是 DeepMind 的 Volodymyr Mnih 等人於 2015 年在 Nature 雜誌發表的 DQN 智能體。
DQN 能夠純粹透過屏幕畫面學會玩數十款 Atari 遊戲,而論文作者在研發初期就已經遭遇了定格畫面的困境。
他們在論文的方法部分寫道:“由於智能體只能觀察到當前的屏幕,該任務屬於部分可觀察狀態,許多仿真器狀態在感知上存在混淆(Perceptually Aliased)。”
換言之,僅僅依靠當前的屏幕畫面,根本無法告知智能體完整的處境。
所謂“感知混淆”,是對日常困擾的一個精準學術描述。兩個截然不同的情境(例如球正飛向你的球拍,或者球正飛離你的球拍),在靜態畫面中會產生完全相同的圖像。
一個僅看圖像的系統被迫將它們視為同一種情境;如果這兩種情境需要執行完全相反的操作,系統必然會在其中一種情況下出錯。
他們的補救方法非常直接。網絡不再只接收一張屏幕畫面,而是將最近的幾幀畫面疊放在一起作為輸入。
在默認設定中取值為 4 幀,儘管該算法對取值 3 幀或 5 幀同樣具備適應性。
將四幀畫面並排放置後,球的運動就直接顯現為了位置的變化。運動方向不再是一個需要抽象記憶的概念,而是變成了一個可以直接被看見的視覺屬性。
論文並沒有把這組堆疊的畫面稱為記憶。它本質上只是一個恰好比單一時刻更寬的輸入通道。
感知混淆與物理硬邊界
這種輸入寬度有著極其堅硬的物理邊界,Hausknecht 與 Stone 精準描述了這道邊界所在。
他們寫道:因為 DQN 是使用由智能體最近經歷的四個狀態構成的輸入進行訓練的,“如果某款遊戲要求玩家記住超過過去四屏畫面更久遠的事件,DQN 將無法掌握這款遊戲。”
對於 DQN 而言,倒數第五屏畫面之後的歷史,根本就不存在於它的輸入範圍之內。
這種基於固定滑動窗口的機制,直接揭示了機器智能在時間序列處理上的核心矛盾:無論窗口如何拓寬,邊界之外的信息都會被物理抹去。

