Jev突然爆火刷屏:不會聊天,不寫程式碼,只做判斷

AI 模型 Jev 近來在開發圈爆紅,它不像 ChatGPT 能聊天寫程式,只專注於做判斷(Yes/No、選擇、評分),卻以極快的速度和極低的成本吸引開發者,甚至被用於清理 Claude Code 的上下文或作為 Agent 的「裁判」。其創始人 Diogo Almeida 曾參與 RLHF 訓練,如今卻反思這套方法使 AI 擅長「協助」而非「自動化」。

  • 核心問題:AI 能解高難度數學,卻無法勝任客服等自動化任務,因為它過於依賴人類在迴路中、常過度承諾。
  • Jev 的設計:直接砍掉生成冗長 Token 的過程,僅輸出判斷與機率,延遲低至 70-500 毫秒,成本降低數百倍。
  • 關鍵技術:採用 RLCD(校準決策強化學習),確保機率可信(如判斷有 80% 機率,結果就會接近 80% 發生),適合機器間的自動化決策。
  • 未來定位:充當 Agent 的「系統一模型」負責海量、高頻的小判斷(如下一步工具調用),而將複雜推理留給大模型,讓 AI 在無人監控時也能自主運作。
總結

作者:朱雪瑩

這兩天,一個有點反常的AI模型突然刷屏了。

它叫 Jev。

不會聊天,不寫程式碼,甚至不會像ChatGPT一樣給你生成一大段答案。它只做一件事:做判斷。

但就是這樣一個看起來「能力被砍了一大半」的模型,卻突然在開發者圈火了。

有人用它40秒分析724條即時廣告,總共做出8724次判斷;有人把它接進Claude Code,專門清理沒用的上下文;還有人讓它給AI Agent當「裁判」,檢查任務到底有沒有真的完成。LangChain也已經開始測試Jev作為Agent評估器的表現。

更誇張的是速度和價格。

TypeSafe公布的測試中,Jev最高提速約193.6倍,成本最多降低444.6倍。輸入每百萬Token只要0.042美元,輸出Token甚至免費。

一個能力看起來更少的AI,為什麼反而火了?

因為到了Agent時代,AI真正需要的可能不只是「深思熟慮」,還有海量、快速、便宜的判斷:下一步做什麼、該調用哪個工具、任務到底完成沒有。更重要的是,這些判斷未來需要AI自己在後台完成,不再需要人一直坐在螢幕前盯著。Jev看上的,就是這些每天可能發生幾百萬次的小決定。

更有意思的是,Jev模型創辦人Diogo Almeida,恰恰參與過RLHF,而現在他開始反思RLHF:這套讓ChatGPT變得有用的訓練方式,可能並不適合AI真正走向自動化。

一個多月前,Almeida做過一場演講。現在回頭再看,那場演講幾乎就是Jev的「思想說明書」。

圖片

圖片

AI都會做高等數學了,為什麼還做不好客服?

Diogo Almeida的履歷很特殊。

他曾在OpenAI工作,是GPT-4、ChatGPT以及InstructGPT/RLHF相關工作的參與者。也就是說,他曾親手參與構建了今天大模型最重要的一套後訓練範式。

但在那場演講裡,他上來就調侃自己,是OpenAI內部少數幾個公開「黑」ChatGPT的人之一。

他的演講主題更加直接:What's Next After RLHF?

Diogo先提出了一個看起來很矛盾的問題。

今天的大模型已經可以挑戰非常難的數學題,程式碼、推理和各種benchmark一路往上走。

可到了很多企業真正想自動化的業務裡,人卻始終拿不掉。

比如客服。

讓AI查資料、總結文件、起草回覆,沒問題。

但如果讓AI自己決定:這筆錢到底退不退?這個用戶要不要賠償?

企業一下就謹慎起來了。

明明這些事情看起來比高等數學簡單得多,為什麼反而不敢交給AI?

Diogo給出的答案很簡單:Today's AI is incredible at assistance, not automation.

今天的AI很會幫你幹活,卻還不太能自己把活幹完。

這兩件事看起來只差一點,實際上完全不同。

Claude Code再強,你通常還是坐在電腦前。它寫程式碼,你看;它改檔案,你檢查;錯了,你再讓它改。

所以在Diogo看來,Claude Code依然屬於ChatGPT開啟的「協助時代」。

真正的自動化是什麼?

人根本不在場。

AI在後台自己判斷、自己執行,一天可能運行幾十萬甚至幾百萬次,你甚至永遠不會看到它做了什麼。

問題也就來了:為什麼今天的AI這麼聰明,卻偏偏離不開人?

Diogo把矛頭指向了一個自己非常熟悉的東西——RLHF。

圖片

我們訓練AI的時候,就把人塞進了迴路裡

這件事多少有點諷刺。

因為RLHF,恰恰是Diogo當年參與推動的技術路線之一。

RLHF的基本邏輯其實不複雜:收集人的偏好,然後讓模型越來越符合人的偏好。

所以Diogo在演講裡給出了一個非常直白的解釋:為什麼今天的大模型總需要有人在迴路裡?

因為訓練它的時候,我們字面意義上就把人塞進了那個迴路裡。

模型從一開始就在學習:什麼樣的回答,人更喜歡?

這也解釋了大模型一個我們已經非常熟悉的特點——哪怕不知道,它也經常能說得特別像那麼回事。

Diogo在現場舉了一個很損的例子。

有人給ChatGPT發了一段放屁的錄音,告訴它這是自己創作的一首音樂,請它「真誠、坦率」地評價。

結果ChatGPT一本正經地誇了起來,說這是一首很有陰森、詭異氛圍感的環境音樂。

Diogo甚至用了一句話總結:「Overpromising is a feature.」

過度承諾不是Bug,是feature。

對於聊天產品來說,這未必致命。用戶還在螢幕前,錯了可以糾正。

但真正的自動化系統完全不同。

機器不關心你的回答好不好聽,它只需要知道兩件事:到底該怎麼做,以及你到底有多大把握?

這也就解釋了,為什麼一個多月後發布的Jev,看起來會如此反常。

圖片

所以,Jev乾脆不讓AI「說話」了

普通大模型哪怕最終只需要回答「A還是B」,往往也要經過生成Token的過程。

Jev直接把這部分砍掉。

它目前主要做三件事:

  • Noul,回答Yes還是No;
  • Choice,從幾個選項裡選一個;
  • Score,按照標準打分。

然後直接返回判斷和機率。

不給你寫小作文,也不陪你聊天。

官方公布的端到端延遲低至70—500毫秒,相比前沿模型快20—200倍,價格低40—400倍。

但真正關鍵的,其實不是「快」,是後面那個機率。

為此,TypeSafe提出了一套新的訓練方法:RLCD,Reinforcement Learning for Calibrated Decisions,校準決策強化學習。

它想解決的問題非常現實:如果AI告訴你一件事有80%的機率發生,這個80%到底能不能信?

理想情況下,模型判斷為80%機率的一批事情,最後就應該大約有80%真的發生。

這在自動化系統裡非常重要。

99%的把握,可以直接執行。

51%的把握,可以扔給更強、更貴的大模型,甚至轉給人。

真正麻煩的不是AI不知道,是AI不知道自己不知道。

所以Jev真正想改變的,是AI輸出的對象。

過去ChatGPT生成的答案,主要是給人看的。Jev給出的判斷和機率,則是準備直接交給軟體用的。

圖片

Agent時代,可能需要的不是一個更大的大腦

這也解釋了為什麼Jev偏偏在現在火了。

因為Agent真正運行起來以後,會產生海量的小判斷:

下一步調用哪個工具?這個網頁該點哪個按鈕?這條資訊還有沒有用?任務到底完成沒有?結果要不要重新檢查?

這些問題單個看都不難,但一個Agent一天可能需要判斷幾十萬、幾百萬次。

如果每一次都叫最強的大模型,花幾秒鐘「深思熟慮」,再吐出一大段Token,成本和延遲很快就上去了。

Jev想搶的,就是這一層。

大量高頻的小決定交給Jev,真正需要複雜推理的任務,再交給大模型。

這也是為什麼TypeSafe把Jev叫做 System One Model。

這個概念來自丹尼爾·卡尼曼的「系統1」和「系統2」:一個負責快速、直覺式的判斷,一個負責慢速、複雜的思考。

Jev甚至連名字都來自「傑文斯悖論」:

一種資源變得越來越便宜,人們未必會少用,反而可能用得更多。

如果調用一次AI很貴,你只會把它用在最重要的地方。

但如果一次AI判斷便宜到幾乎可以忽略呢?

一封郵件、一條日誌、一次工具調用、一個網頁按鈕、Agent執行的每一步,都可能加入一次AI判斷。

當然,現在就說Jev代表下一代AI,還太早。

它所謂的「零幻覺」,更多意味著不會跳出規定的答案類型亂編,不代表不會選錯;193.6倍、444.6倍這樣的極端數據,也主要來自TypeSafe自己的測試。

但Jev這次爆火真正值得關注的,可能不是它能不能挑戰GPT或者Claude。

而是一個參與造出ChatGPT的人,正在重新追問一個更底層的問題:

過去幾年,整個行業都在想,怎樣讓AI想得更久、說得更多。

但如果未來真正需要的是幾十億次機器之間的判斷,AI為什麼每一次都要先「說一段話」?

ChatGPT教會了機器怎麼和人說話。

而Jev押注的下一步是:當人不再坐在螢幕前,機器能不能自己做決定?

分享至:

作者:华尔街见闻

本文為PANews入駐專欄作者的觀點,不代表PANews立場,不承擔法律責任。

文章及觀點也不構成投資意見

圖片來源:华尔街见闻如有侵權,請聯絡作者刪除。

關注PANews官方賬號,一起穿越牛熊
PANews APP
某巨鯨將價值超8600萬美元的BTC輪換至ETH,並全額質押
PANews 快訊