為什麼AI記得住人類全部知識,卻永遠記不住“昨天”?

  • 作者指出AI能容納海量靜態知識,卻無法在動態環境中無損攜帶過去的細節。
  • DQN靠堆疊最近4幀畫面破解「感知混淆」,但超過4幀的歷史不在其輸入範圍內。
總結

作者:Hugo,Robonaissance

編譯:深潮 TechFlow

**深潮導讀:**從早期 Atari 遊戲智能體到擁有數百萬上下文窗口的大語言模型,人工智能在跨越時間進行連續決策時,始終面臨著一個根本性的物理矛盾:模型能夠輕易容納人類既有的海量靜態知識,但在動態交互環境中,卻無法將過去的全部細節無損隨身攜帶。

在有限算力與上下文窗口的硬約束下,如何在壓縮過去的同時準確提煉決定未來的核心狀態,不僅是解決“感知混淆”的技術突破口,更是當下自主智能體邁向真正持久記憶的底層邏輯。

定格畫面下的狀態悖論

這是《機器中的記憶、遺忘與自我》系列第 3 期:當智能體無法隨身攜帶全部過去時,智能究竟如何跨越時間展開行動。

試著在任何一幀畫面定格經典的 Pong 彈球遊戲。

畫面中只有兩隻球拍、一個球和當下的比分。此時如果讓你說出球正在飛向何方,你根本做不到,即使給機器展示同一張靜態畫面,機器也同樣無法判斷。

學者 Matthew Hausknecht 與 Peter Stone 在 2015 年關於學習玩 Atari 遊戲的智能體論文中直截了當地指出:“當前的單幀屏幕只能揭示球拍和球的位置,卻無法揭示球的速度。”

他們接著解釋了為什麼這至關重要:“獲知球的移動方向,是決定球拍最佳位置的關鍵要素。”

這個定格畫面是精準的,畫面上的每一處細節都處在它該在的位置上。但光憑這單幀畫面,依然不足以進行這場遊戲。

傳感器在當下這一瞬間所捕獲的,僅僅是一次“觀測值(Observation)”。

而智能體下一步行動所依賴的真實全局,則是“系統狀態(State)”。

在 Pong 遊戲中,觀測值與系統狀態在每一個單幀切片上都是彼此割裂的。因為球的移動方向是一項關於過去幾個瞬間的事實,沒有任何一個孤立的瞬間能夠單獨包含它。

當眼前的即時輸入無法滿足決策時,一個表現良好的系統就必須從它的過去中向當下承載某些信息。

但它所承載的永遠不可能是完整的過去。它所承載的只是一份摘要,而這份摘要的取捨,完全取決於它下一步需要預測什麼。

這個取捨決定了後續時刻擁有怎樣的信息基礎。任何被摘要遺漏的細節,後續時刻都將永遠無法基於它做出反應。

四幀深度的記憶折衷

Hausknecht 與 Stone 當時所回應的系統,正是 DeepMind 的 Volodymyr Mnih 等人於 2015 年在 Nature 雜誌發表的 DQN 智能體。

DQN 能夠純粹透過屏幕畫面學會玩數十款 Atari 遊戲,而論文作者在研發初期就已經遭遇了定格畫面的困境。

他們在論文的方法部分寫道:“由於智能體只能觀察到當前的屏幕,該任務屬於部分可觀察狀態,許多仿真器狀態在感知上存在混淆(Perceptually Aliased)。”

換言之,僅僅依靠當前的屏幕畫面,根本無法告知智能體完整的處境。

所謂“感知混淆”,是對日常困擾的一個精準學術描述。兩個截然不同的情境(例如球正飛向你的球拍,或者球正飛離你的球拍),在靜態畫面中會產生完全相同的圖像。

一個僅看圖像的系統被迫將它們視為同一種情境;如果這兩種情境需要執行完全相反的操作,系統必然會在其中一種情況下出錯。

他們的補救方法非常直接。網絡不再只接收一張屏幕畫面,而是將最近的幾幀畫面疊放在一起作為輸入。

在默認設定中取值為 4 幀,儘管該算法對取值 3 幀或 5 幀同樣具備適應性。

將四幀畫面並排放置後,球的運動就直接顯現為了位置的變化。運動方向不再是一個需要抽象記憶的概念,而是變成了一個可以直接被看見的視覺屬性。

論文並沒有把這組堆疊的畫面稱為記憶。它本質上只是一個恰好比單一時刻更寬的輸入通道。

感知混淆與物理硬邊界

這種輸入寬度有著極其堅硬的物理邊界,Hausknecht 與 Stone 精準描述了這道邊界所在。

他們寫道:因為 DQN 是使用由智能體最近經歷的四個狀態構成的輸入進行訓練的,“如果某款遊戲要求玩家記住超過過去四屏畫面更久遠的事件,DQN 將無法掌握這款遊戲。”

對於 DQN 而言,倒數第五屏畫面之後的歷史,根本就不存在於它的輸入範圍之內。

這種基於固定滑動窗口的機制,直接揭示了機器智能在時間序列處理上的核心矛盾:無論窗口如何拓寬,邊界之外的信息都會被物理抹去。

分享至:

作者:深潮TechFlow

本文為PANews入駐專欄作者的觀點,不代表PANews立場,不承擔法律責任。

文章及觀點也不構成投資意見

圖片來源:深潮TechFlow如有侵權,請聯絡作者刪除。

關注PANews官方賬號,一起穿越牛熊
PANews APP
宇樹科技盤中漲超15%
PANews 快訊