作者:朱雪瑩
這兩天,一個有點反常的AI模型突然刷屏了。
它叫 Jev。
不會聊天,不寫程式碼,甚至不會像ChatGPT一樣給你生成一大段答案。它只做一件事:做判斷。
但就是這樣一個看起來「能力被砍了一大半」的模型,卻突然在開發者圈火了。
有人用它40秒分析724條即時廣告,總共做出8724次判斷;有人把它接進Claude Code,專門清理沒用的上下文;還有人讓它給AI Agent當「裁判」,檢查任務到底有沒有真的完成。LangChain也已經開始測試Jev作為Agent評估器的表現。
更誇張的是速度和價格。
TypeSafe公布的測試中,Jev最高提速約193.6倍,成本最多降低444.6倍。輸入每百萬Token只要0.042美元,輸出Token甚至免費。
一個能力看起來更少的AI,為什麼反而火了?
因為到了Agent時代,AI真正需要的可能不只是「深思熟慮」,還有海量、快速、便宜的判斷:下一步做什麼、該調用哪個工具、任務到底完成沒有。更重要的是,這些判斷未來需要AI自己在後台完成,不再需要人一直坐在螢幕前盯著。Jev看上的,就是這些每天可能發生幾百萬次的小決定。
更有意思的是,Jev模型創辦人Diogo Almeida,恰恰參與過RLHF,而現在他開始反思RLHF:這套讓ChatGPT變得有用的訓練方式,可能並不適合AI真正走向自動化。
一個多月前,Almeida做過一場演講。現在回頭再看,那場演講幾乎就是Jev的「思想說明書」。
AI都會做高等數學了,為什麼還做不好客服?
Diogo Almeida的履歷很特殊。
他曾在OpenAI工作,是GPT-4、ChatGPT以及InstructGPT/RLHF相關工作的參與者。也就是說,他曾親手參與構建了今天大模型最重要的一套後訓練範式。
但在那場演講裡,他上來就調侃自己,是OpenAI內部少數幾個公開「黑」ChatGPT的人之一。
他的演講主題更加直接:What's Next After RLHF?
Diogo先提出了一個看起來很矛盾的問題。
今天的大模型已經可以挑戰非常難的數學題,程式碼、推理和各種benchmark一路往上走。
可到了很多企業真正想自動化的業務裡,人卻始終拿不掉。
比如客服。
讓AI查資料、總結文件、起草回覆,沒問題。
但如果讓AI自己決定:這筆錢到底退不退?這個用戶要不要賠償?
企業一下就謹慎起來了。
明明這些事情看起來比高等數學簡單得多,為什麼反而不敢交給AI?
Diogo給出的答案很簡單:Today's AI is incredible at assistance, not automation.
今天的AI很會幫你幹活,卻還不太能自己把活幹完。
這兩件事看起來只差一點,實際上完全不同。
Claude Code再強,你通常還是坐在電腦前。它寫程式碼,你看;它改檔案,你檢查;錯了,你再讓它改。
所以在Diogo看來,Claude Code依然屬於ChatGPT開啟的「協助時代」。
真正的自動化是什麼?
人根本不在場。
AI在後台自己判斷、自己執行,一天可能運行幾十萬甚至幾百萬次,你甚至永遠不會看到它做了什麼。
問題也就來了:為什麼今天的AI這麼聰明,卻偏偏離不開人?
Diogo把矛頭指向了一個自己非常熟悉的東西——RLHF。
我們訓練AI的時候,就把人塞進了迴路裡
這件事多少有點諷刺。
因為RLHF,恰恰是Diogo當年參與推動的技術路線之一。
RLHF的基本邏輯其實不複雜:收集人的偏好,然後讓模型越來越符合人的偏好。
所以Diogo在演講裡給出了一個非常直白的解釋:為什麼今天的大模型總需要有人在迴路裡?
因為訓練它的時候,我們字面意義上就把人塞進了那個迴路裡。
模型從一開始就在學習:什麼樣的回答,人更喜歡?
這也解釋了大模型一個我們已經非常熟悉的特點——哪怕不知道,它也經常能說得特別像那麼回事。
Diogo在現場舉了一個很損的例子。
有人給ChatGPT發了一段放屁的錄音,告訴它這是自己創作的一首音樂,請它「真誠、坦率」地評價。
結果ChatGPT一本正經地誇了起來,說這是一首很有陰森、詭異氛圍感的環境音樂。
Diogo甚至用了一句話總結:「Overpromising is a feature.」
過度承諾不是Bug,是feature。
對於聊天產品來說,這未必致命。用戶還在螢幕前,錯了可以糾正。
但真正的自動化系統完全不同。
機器不關心你的回答好不好聽,它只需要知道兩件事:到底該怎麼做,以及你到底有多大把握?
這也就解釋了,為什麼一個多月後發布的Jev,看起來會如此反常。
所以,Jev乾脆不讓AI「說話」了
普通大模型哪怕最終只需要回答「A還是B」,往往也要經過生成Token的過程。
Jev直接把這部分砍掉。
它目前主要做三件事:
- Noul,回答Yes還是No;
- Choice,從幾個選項裡選一個;
- Score,按照標準打分。
然後直接返回判斷和機率。
不給你寫小作文,也不陪你聊天。
官方公布的端到端延遲低至70—500毫秒,相比前沿模型快20—200倍,價格低40—400倍。
但真正關鍵的,其實不是「快」,是後面那個機率。
為此,TypeSafe提出了一套新的訓練方法:RLCD,Reinforcement Learning for Calibrated Decisions,校準決策強化學習。
它想解決的問題非常現實:如果AI告訴你一件事有80%的機率發生,這個80%到底能不能信?
理想情況下,模型判斷為80%機率的一批事情,最後就應該大約有80%真的發生。
這在自動化系統裡非常重要。
99%的把握,可以直接執行。
51%的把握,可以扔給更強、更貴的大模型,甚至轉給人。
真正麻煩的不是AI不知道,是AI不知道自己不知道。
所以Jev真正想改變的,是AI輸出的對象。
過去ChatGPT生成的答案,主要是給人看的。Jev給出的判斷和機率,則是準備直接交給軟體用的。
Agent時代,可能需要的不是一個更大的大腦
這也解釋了為什麼Jev偏偏在現在火了。
因為Agent真正運行起來以後,會產生海量的小判斷:
下一步調用哪個工具?這個網頁該點哪個按鈕?這條資訊還有沒有用?任務到底完成沒有?結果要不要重新檢查?
這些問題單個看都不難,但一個Agent一天可能需要判斷幾十萬、幾百萬次。
如果每一次都叫最強的大模型,花幾秒鐘「深思熟慮」,再吐出一大段Token,成本和延遲很快就上去了。
Jev想搶的,就是這一層。
大量高頻的小決定交給Jev,真正需要複雜推理的任務,再交給大模型。
這也是為什麼TypeSafe把Jev叫做 System One Model。
這個概念來自丹尼爾·卡尼曼的「系統1」和「系統2」:一個負責快速、直覺式的判斷,一個負責慢速、複雜的思考。
Jev甚至連名字都來自「傑文斯悖論」:
一種資源變得越來越便宜,人們未必會少用,反而可能用得更多。
如果調用一次AI很貴,你只會把它用在最重要的地方。
但如果一次AI判斷便宜到幾乎可以忽略呢?
一封郵件、一條日誌、一次工具調用、一個網頁按鈕、Agent執行的每一步,都可能加入一次AI判斷。
當然,現在就說Jev代表下一代AI,還太早。
它所謂的「零幻覺」,更多意味著不會跳出規定的答案類型亂編,不代表不會選錯;193.6倍、444.6倍這樣的極端數據,也主要來自TypeSafe自己的測試。
但Jev這次爆火真正值得關注的,可能不是它能不能挑戰GPT或者Claude。
而是一個參與造出ChatGPT的人,正在重新追問一個更底層的問題:
過去幾年,整個行業都在想,怎樣讓AI想得更久、說得更多。
但如果未來真正需要的是幾十億次機器之間的判斷,AI為什麼每一次都要先「說一段話」?
ChatGPT教會了機器怎麼和人說話。
而Jev押注的下一步是:當人不再坐在螢幕前,機器能不能自己做決定?

