DeepSeek新論文提出DualPath推理系統,智能體負載吞吐近翻倍

PANews 2月27日消息,在業界對新一代旗艦模型DeepSeek V4的翹首期盼中,DeepSeek團隊卻悄悄地放出了一篇新的學術論文。新論文介紹了一個名為DualPath的創新推理系統,專門針對智能體工作負載下的大模型(LLM)推理性能進行最佳化。透過引入「雙路徑讀取KV-Cache(類似記憶快取)」機制,重新分配儲存網路負載,將離線推理吞吐量最高提升1.87倍,線上服務的每秒智能體運行數平均提升1.96倍。論文在引言部分提到,大模型正從單輪對話機器人和獨立推理模型,快速演進為智能體系統——能夠自主規劃、調用工具,並透過多輪互動解決實際任務。這種應用範式的轉變,推動大模型推理工作負載發生重大變革:從傳統的人類-大模型交互,轉向人類-大模型-環境交互,交互輪次可達數十甚至數百輪。

分享至:

作者:PA一线

本內容只為提供市場資訊,不構成投資建議。

關注PANews官方賬號,一起穿越牛熊