作者：IOSF

最近，IOSF 在舊金山約了一桌做 AI 的朋友，邊吃粵菜，邊聊了近兩個小時。

桌邊有來自 OpenAI、xAI、Google DeepMind 的研究員，研究方向涉及模型推理與 GPU 加速、語音、視頻生成等；也有從事世界模型商業合作、AI 產品與創業的朋友，以及來自早期科技投資和資本市場的從業者。

同一個話題，常常會得到不同角度的回應。研究員談技術上的限制，創業者想到用戶和產品，投資人則繼續追問客戶、成本，以及一門生意能否持續。

話題從推理服務和世界模型，延伸到 RSI、Agent 的自我意識，再落回日常工作中的數據與隱私。回看這些討論，我們想繼續追問的是：

AI 的能力進步，怎樣轉化為持續使用的產品、更可靠的研究，以及值得信任的工具？

六個尚未聊完的問題

01　推理服務：市場有多大，客戶為什麼留下？

聊到推理服務，席間很快出現了兩種可以同時成立的判斷。

有投資人看好 AI 應用增長與開源模型進步帶來的推理需求。模型被用得越多，如何更快、更穩定地提供服務，就越有商業價值。

研究員則提醒，僅從軟件方案看，不同服務之間的差異，未必有外界想像得那麼大。來自資本市場的朋友更關注客戶和價格競爭：一家公司的業務，能否保持足夠好的毛利？

討論由此從市場有多大，轉向了客戶為什麼會留下。

如果客戶很容易換一家服務商，技術優化帶來的優勢能持續多久？公司憑什麼獲得更穩定的需求，又能否把規模增長轉化為更好的經營結果？

對 IOSF 來說，需求增長讓一個方向值得關注；客戶留存、服務質量和成本結構，則幫助我們進一步看清一家具體的公司。

02　世界模型的演示之後，用戶為什麼回來？

圍繞世界模型，大家聊到視頻生成和交互體驗，也談到研究人員如何選擇創業方向。

一位做視頻模型的朋友提到，大公司內部對某個方向的支持，會受到資源配置和研究重點變化的影響。研究人員選擇創業，有時也是在尋找更適合繼續推進自己想法的環境。

但回到產品，仍然要回答幾個具體問題：用戶究竟能用它完成什麼？交互延遲是否可以接受？使用成本是否適合這個場景？

演示讓人看到技術的可能性，持續使用則要求產品回答更長遠的問題：用戶為什麼還會回來，又願意為什麼付費？

關於世界模型會先在哪些場景被反覆使用，席間沒有形成統一答案。這個尚未確定的問題，也為下一次交流留下了空間。

03　RSI：如何判斷下一步值得做什麼？

聊到 RSI，也就是 AI 的遞歸自我改進（Recursive Self-Improvement），討論開始涉及研究工作本身。

一位研究員提醒，模型可能沿著一個看似有進展的方向不斷嘗試，卻不知道什麼時候應該停下來。短期指標在改善，並不一定說明研究已經走對了路。

困難的判斷在於：現有證據是否足以支持繼續投入？一次失敗意味著需要調整方法，還是應該換一個假設？

這也讓我們想到，觀察 AI 的研究能力，需要看完整的探索過程。它如何提出問題，如何解釋失敗，又如何根據結果改變下一步，都會影響最終的研究質量。

模型可以加快許多步驟，但下一步值得做什麼，仍然是一個很難的問題。席間也有人提到，人對信息來源與可靠程度的判斷，依然會影響整個工作的方向。

在討論 AI 能否持續改進自己時，如何選擇方向、如何根據證據修正判斷，值得和最終結果一起被關注。

04　Agent 行為超出預期時，人能否及時介入？

Agent 是否會有自我意識，是另一個讓討論停留了很久的話題。

當 Agent 為完成任務尋找捷徑，甚至做出超出預期的行為，我們應該如何理解它？席間的解釋更偏向目標、約束與安全對齊。這些行為本身，還不足以說明它已經有了自我意識。

順著這個問題，我們想追問一些產品層面已經需要面對的事情：一個 Agent 被要求優化什麼目標？它被允許採取哪些行動？當它偏離預期時，使用者能否發現，並及時介入？

關於意識的問題可以繼續討論，而權限、監督與糾錯，已經會影響我們願意把多大的任務交給 Agent。能否看見它在做什麼、在必要時收回權限或修正錯誤，是建立這種信任時需要具體回答的問題。

05　把工作交給 AI，數據與信任的邊界在哪裡？

這些聽起來很前沿的問題，最後又回到了每個人每天怎樣使用 AI。

一位從事資本市場工作的朋友分享，他會讓 AI 整理投資人資料、處理交易信息、完成文檔初稿，再由人修訂。他也提到，企業採用工具時，既有的信任關係，以及與 Office 等工作流程的銜接，會影響實際使用。

這個例子給討論帶來了一個具體的參照。AI 的價值，已經可以體現在一份資料整理、一輪初稿和一次修改裡。能否順利接進原有工作，結果是否方便檢查，也會影響它能夠承擔多少任務。

而工作交得越多，就越需要弄清楚數據的邊界：哪些資料交了出去？誰能訪問？使用者還保留哪些控制權？

這些問題關係到工作資料、商業判斷與個人信息的保護，也會影響用戶是否願意把更重要的工作交給一個產品。日常使用中的便利與信任，需要放在一起考慮。

06　AI for Bio：先把需要解決的任務說清楚

席間還聊到了 AI for Bio。有朋友談到與醫生團隊的接觸和數據整理工作，也有人關心 AI 能否幫助解決更有社會價值的問題。

話題很快落到一個務實的起點：手上有哪些數據？當前工作卡在哪裡？技術團隊究竟需要完成哪一項任務？

具體需求越清楚，後續的技術交流和資源對接就越容易推進。把希望解決的問題說清楚，本身就是推進工作的開始。