作者：qinbafrank

前言

最早是7月6號看到了Coinbase在AI上工程化實踐，讓我開始深度思考和研究企業在未來採用部署AI的過程中會出現什麼的趨勢變化。（相關閱讀：CSP（雲端服務商）部署性價比高的開源模型並轉售Token的意義、未來超大CSP的業績表現將會衡量AI商業化更重要的指標）

沿著這個思考進一步去深化擴展，就形成現在的這篇長文，更詳細地聊聊個人的邏輯和想法。

一分場景、多模型，企業採用AI進程進入工程化階段帶來的變化

1、分場景：企業不會再問「哪個模型最好」，而會問「這個任務應該用哪個模型」

未來不是「專項高性價比Token」，因為Token本身只是計量單位。真正被專項化的是：模型；推理策略；上下文與數據；工具調用路徑；硬體與服務方式；安全和人工覆核機制。

企業選擇模型的目標函數將從單純追求模型能力，變成：

任務淨價值=任務成功概率×業務價值−推理及執行成本−錯誤與風險損失。

由此會形成四類典型場景：

例如，郵件分類、摘要、欄位抽取、初步客服分流、程式碼格式檢查等任務，對模型能力的邊際要求較低，卻具有調用量大、價格敏感的特點。這類任務會逐漸遷移到小模型、開放模型或CSP自研性價比模型。

而複雜程式碼生成、重要合約分析、科學推理、戰略研究、複雜Agent規劃等任務，模型準確率提升幾個百分點可能對應很高的業務價值，因此仍願意支付前沿模型溢價。

2、企業採用AI越深入，越需要專有的AI系統

無論前沿閉源大模型使用了多少公共、授權或合成數據，它通常都不掌握某一家企業的實時數據、內部規則、組織權限和隱性經驗。大企業更需要的是「私有 AI 邊界」，包括數據不被用於訓練、私有網路、專屬租戶、權限隔離、數據駐留和可審計性；只有一部分場景必須真正本地化或隔離部署。

企業真正缺少的不是一個「讀過所有企業文件」的模型，而是一個能夠在正確權限下，調用正確數據，並按企業規則採取行動的系統。

企業私有數據需要分四類處理：

而「經驗型數據」是企業AI最難的資產，經驗並不天然以數據形式存在。它通常分散在：老員工的判斷中、郵件和聊天記錄中、被否決但未記錄的方案中、異常事件處理過程中、人工覆蓋系統建議的動作中、客戶投訴和事後復盤中。

要把這部分經驗轉化為AI資產，企業必須建立：

原始經驗→任務樣本→專家判斷→正確與錯誤標準→模型評估集→回饋和後訓練

因此大企業的護城河不是簡單的「擁有很多文件」，而是：

能否把隱性知識轉化為機器可學習、可檢索、可評估、可執行的組織上下文。

這也正是為什麼企業AI越來越需要FDE、數據工程師、領域專家和業務負責人共同參與。

而上面聊到這麼多都指向了一點：

企業採用 AI 正從「購買最強模型」進入「圍繞私有數據、業務流程和多模型系統進行工程化部署」的階段。

二「複合AI系統」到「中間層」崛起

1、多模型、多模組：AI產品將從「模型調用」升級為「複合AI系統」

未來企業生產級AI系統通常不會只是一個模型API，而是由多個模組共同完成工作：用戶請求、身份與權限、場景識別、數據和上下文獲取、模型路由、模型推理、工具/API調用、結果驗證、風險控制、人工覆核或自動執行、監控和持續評估。

這裡的「多模組」比「多模型」更重要。因為企業最終購買的不是模型本身，而是一個能夠可靠完成業務任務的系統。

為什麼企業會走向多模組？

1）單一模型不可能同時在品質、成本、速度、隱私和穩定性上都最優。

2）模型本身並不了解企業實時數據、權限體系和業務狀態。必須透過數據層、檢索層、工具層和系統連接器取得上下文。

3）生產環境需要可審計、可回滾、可監控。模型輸出不能直接等同於業務執行。

4）模型更新頻繁。企業必須把業務邏輯與特定模型解耦，避免每次模型變化都重寫整個應用。

MCP等開放協議的出現，就是在試圖標準化模型與數據源、企業工具之間的連接方式，減少每個模型分別開發連接器所造成的碎片化。

但多模型不等於模型數量無限增加

每增加一個模型，企業都會增加一組隱性固定成本：安全審核、法務與智慧財產權評估、數據駐留審查、品質基準測試、模型更新後的回歸測試、運維和故障處理、供應商管理。所以最可能出現的組織形式並不是「每個團隊自由選擇幾十個模型」，而是：

中央建立有限的合規模型池、統一數據與安全控制面；各業務部門根據場景調用不同模型。

這帶來的趨勢就是：底層基礎設施逐步集中，場景創新則分散到業務部門。

2、中間層價值崛起：成立，但必須區分「控制權」與「獨立商業價值」

未來中間層大致可以分為六類：

哪些中間層最容易獲得價值

最有可能長期捕獲價值的，不是最薄的模型包裝層，而是控制以下一種或多種稀缺資源的平台：

1）企業數據和上下文：能夠合法、實時、按權限調用企業數據。

2）身份和安全：決定AI可以訪問什麼、可以替誰執行什麼。

3）業務工作流：掌握任務入口和執行閉環。

4）跨模型評估數據：積累真實生產環境的品質、成本和風險數據。

5）分發能力：已經擁有大量企業用戶或系統入口。

數據平台、雲端平台、安全平台、ERP和行業軟體廠商因此具備天然優勢。

微軟揭露，其AI客戶越來越多地同時使用Foundry、Fabric、Cosmos DB和安全治理服務；Google也強調AI使用推動BigQuery和數據工作流增長。這說明AI模型調用可能成為資料庫、分析、儲存、安全和Agent執行階段等服務的獲客入口

哪些中間層容易被商品化

以下中間層雖然有使用價值，但未必能形成獨立利潤池：

簡單API聚合；
沒有專有數據的模型路由；
通用Prompt管理；
沒有業務閉環的基礎Agent編排；
只在多個模型之間轉發請求的薄層產品。

原因是AWS、Microsoft、Google等CSP本身可以將這些功能作為雲端服務免費或低價捆綁；大型應用廠商也可以把它們內嵌到現有產品。

所以更準確的判斷是：

中間層的戰略重要性必然上升，但中間層獨立廠商的總價值未必同比例上升。

中間層可能成為AI產業的「作業系統」，但最後獲得經濟利益的可能是：CSP、數據平台、安全和身份平台、擁有系統記錄的應用軟體公司、少數具有跨雲中立性和專有生產數據的獨立中介軟體廠商。

跨雲中立性會是獨立廠商對抗CSP捆綁的重要優勢。大型企業通常不願把模型、數據、評估和治理完全鎖定在同一個雲端平台，因此獨立中間層仍有空間，但必須提供超越「簡單調用模型」的能力。

三多模型時代，超大CSP會不會成為堅實中間層

1、CSP部署開放模型和自研性價比模型，會帶來什麼變化？

變化一：模型調用從單一供應商採購，變成模型組合管理

企業不再只與一個模型廠商深度綁定，而會維護一個模型組合：

前沿閉源模型承擔能力要求最高的任務；
開放模型承擔可標準化和可私有化任務；
CSP自研模型承擔高頻、成本敏感任務；
企業自有模型承擔高度專有、數據敏感任務。

CSP成為模型組合的入口和路由器。模型廠商爭奪的不再只是客戶，而是模型在路由系統中的任務分配份額。

新的模型競爭指標因此包括：被納入多少企業合規模型池？在路由器中獲得多少請求？獲得的是高價值任務還是低價任務？

變化二：模型價格下降，但總AI支出未必下降

模型變小、快取增加和上下文壓縮會降低每任務Token和每Token價格；但成本下降也可能激發更多使用場景，使任務量大幅增長。

變化三：CSP收入來源從模型抽成擴展到全棧附著

即使開源模型不產生高額模型授權收入，CSP仍可以從以下環節收費：GPU、TPU和自研ASIC計算；託管推理服務；資料庫和向量檢索；物件儲存；網路和資料傳輸；Agent執行階段；安全和身份；評估、日誌和監控；企業支援服務。

因此，CSP真正關心的不是模型本身的收入份額，而是：

CSP AI總毛利=推理毛利+資料附著毛利+儲存網路毛利+安全治理毛利+Agent執行階段毛利

AWS披露Bedrock客戶支出季增、Token處理量大幅上升，同時推出AgentCore註冊、政策和評估等服務；Microsoft和Google也在推動模型、資料、Agent和治理服務的組合。這說明CSP正在試圖把模型服務轉化為全棧雲端消費。

變化四：模型廠商價值不會消失，但會向能力頂端和應用端延伸

開源和自研性價比模型會壓縮中低端模型的價格，但不會自動消除前沿模型價值。模型廠商可能採取三條路徑：1）持續提高能力上限，保持複雜任務溢價；2）向Agent、編碼、研究等高價值應用上移；3）提供定製後訓練、安全、企業治理和專屬容量。

最終更可能形成：

CSP控制基礎設施和模型分發；

前沿模型廠商控制能力上限；

中間層控制上下文、治理和調度；

應用廠商控制工作流和使用者入口。

這不是單一層贏家通吃，而是不同層分別收取不同類型的租金。

變化五：企業在模型層的議價能力提高，但平台鎖定可能加深

多模型和開放模型降低了企業對單一模型廠商的依賴。

但如果企業的資料、權限、Agent狀態、評估系統和工作流都部署在同一個CSP上，那麼模型層鎖定下降的同時，雲端平台鎖定反而可能上升。

也就是說：

模型可替換性提高，不代表整體架構可遷移性提高。

2、CSP控制的是橫向AI底座，垂直SaaS控制的是業務執行層

CSP最有可能捕獲以下價值：GPU、TPU和自研ASIC算力；開源模型託管；閉源模型分發；模型微調與蒸餾；資料庫和資料湖；向量檢索與知識圖譜；網路和儲存；身份和權限；安全與治理；Agent執行階段；評估和可觀測性；企業技術支援。

垂直SaaS掌握：工作入口；業務對象；業務語義；使用者權限；歷史操作資料；系統記錄；行業規則；最終動作執行；客戶結果回饋。

因此，它可以把便宜模型包裝成高價值業務結果。

但這只適用於真正擁有工作流和核心獨家資料的SaaS。只是給通用模型套一個簡單介面的薄應用，反而容易被模型廠商或CSP替代。之前這裡https://x.com/qinbafrank/status/2059845057155608629?s=20

有聊過這一點。

3、最可能形成「雙中間層」

未來企業AI架構可能是：

CSP不一定能夠直接越過垂直SaaS控制全部業務流程；垂直SaaS也不太可能獨立承擔底層大規模算力和多模型基礎設施。誰能夠捕獲最多價值，取決於五個控制點

真正高價值的層，不一定是離模型最近的層，而是能夠同時控制：

上下文、權限、工作流、行動和結果回饋。

傳統SaaS專案通常是：

Fit-gap分析 → 配置 → 資料遷移 → UAT → 上線。

企業AI專案更接近：

場景篩選 → 資料權限 → 評估集 → 模型選擇 → RAG和工具接入 → 模型路由 → 安全邊界 → 人工覆核 → 生產監控 → 回饋與後訓練。

最大區別是：

SaaS主要是在既定軟體中配置流程；AI是在生產過程中持續優化一個機率系統。

因此，AI實施更像軟體工程、資料工程、模型工程、流程諮詢和組織變革的結合體。

四對超大CSP的價值重塑

1、超大CSP的價值重塑

之前https://x.com/qinbafrank/status/2074754779755295164?s=20 這裡有聊過：之前市場認為CSP特別是幾家超大CSP是一個二道販子，販賣算力和token，同時還要承擔巨額的資本開支但並沒捕獲最大的價值。現在「高效中型模型 + 規模部署」在生產環境下也證明了自己的價值，而非一味追求參數軍備競賽。

那麼過去的認知也要反轉了：超大CSP已經是企業AI進程多模型架構下的「AI作業系統層」。

成本營收結構的變化 CSP 轉售閉源模型時：

CSP 拿到的分成比例有限（通常 20-50% 不等，具體看合約），還要承擔模型方的定價壓力。自託管開源模型轉售：開源模型基本零授權成本，CSP 只需承擔自己的算力、電費和維運成本。CSP 幾乎拿走全部 markup（扣除算力成本後）。因為定價可以參考開源社群實際成本 + 合理溢價，空間更大。

自研模型更不用說，幾乎營收全在CSP。

2、但對超大CSP也帶來新的挑戰：時間差

可以把整個過程分成四個階段。時間長度只是示意，不同行業差異很大。

階段一：內部研發和容量投入

這一階段：CSP訓練或後訓練自研模型，部署開放模型，優化晶片、推理框架和模型路由，建立安全、評估和治理平台。

財務表現可能是：Capex上升；研發費用和折舊上升；外部雲端收入受容量約束；毛利率承壓；直接商業收入有限。

階段二：客戶試驗和FDE實施

這一階段：客戶篩選場景；整理資料和權限；建立RAG、評估集和工具連接；FDE協助完成首個生產系統。

財務表現可能是：專業服務和微調收入增加；雲端消費增長仍不顯著；大量POC尚未規模化；人力投入增加；服務利潤率可能低於軟體利潤率。

階段三：生產推論規模化

這一階段：客戶工作流穩定；Agent開始持續運行；推論、資料庫、儲存和安全消費增加；垂直SaaS開始按使用量或業務結果收費。

財務表現可能是：CSP雲端消費加速；SaaS AI附加收入上升；資料和安全附著收入增加；客戶續約和擴張改善；單位推論成本下降。

階段四：模型和工作流優化

這一階段：高頻任務轉向小模型、自研模型和開放模型；高價值任務繼續使用前沿模型；路由、快取和蒸餾降低成本；FDE成果逐漸產品化。

財務表現可能是：Token單價下降；任務量增長；模型廠商收入結構分化；CSP全棧附著收入提高；垂直SaaS按工作流和結果捕獲更多價值；成功部署者的毛利和資本回報開始改善。

因此，市場可能先看到：

Capex和人力投入上升

→ 然後看到POC和合約

→ 再看到生產工作負載

→ 最後才看到自由現金流和ROIC。

這個時間差確實是當前AI投資爭議的核心。

五新的 AI 商業化指標體系

1、未來不能再只問「AI 收入多少」，而要同時回答五個問題。

最合理的評判方式不是尋找一個新的單一指標，而是建立從模型到資本回報的七層漏斗。

2、大模型ARR依然關鍵，但它應從「終局指標」變成「能力需求領先指標」

大模型廠商ARR仍然非常重要，原因有四個。

1）ARR證明企業願意為智慧能力付費，ARR至少說明部分客戶已經進入付費狀態，並願意簽訂持續合約或形成穩定消費。

2）ARR反映前沿模型是否仍然具有溢價，如果模型能力持續帶來更高的任務成功率，客戶就會為高價值任務支付溢價。即使大量常規任務轉向小模型，前沿模型仍可能透過複雜推論、編碼、研究和Agent任務保持高價格。

3）ARR決定前沿模型廠商的研發和算力再投資能力，模型訓練、後訓練、推論服務、安全評估和企業銷售都需要持續資本。ARR決定模型廠商是否能夠形成「收入—研發—能力提升—更多收入」的循環。

4）ARR還是生態影響力的代理指標，開發者數量、API呼叫、企業合約、模型進入應用的深度，最終通常會部分反映在ARR中。

3、綜合來看

大模型ARR仍然關鍵，因為它證明企業願意為前沿能力付費；

超大CSP業績未來更全面和權重更高，顯示企業採用AI進程中中間層沉澱的價值；

最終評價標準轉向成功任務經濟性、企業ROI和資本回報。

AI商業化判斷不應該在「大模型ARR」和「CSP雲收入」之間二選一，而應形成一條完整證據鏈：

模型ARR證明付費需求

→ 生產工作負載證明採用深度

→ 單位成功任務毛利證明經營品質

→ 企業ROI證明需求可持續性

→ 自由現金流和ROIC證明資本開支合理性。

最終最值得追蹤的，不是「生成了多少Token」，而是

AI經濟價值=生產任務數量×每任務價值×供應商價值捕獲率×毛利率−資本佔用成本

這才是多模型、多模組時代衡量AI商業化的總框架。

上面所有的內容其實構成了一條連續的因果鏈：

業務場景差異擴大

→ 企業不再用一個模型解決所有任務

→ 形成多模型、多模組的複合AI系統

→ 路由、數據、評估、治理、安全等中間層成為控制面

→ 模型層價值不會消失，但大模型ARR從「唯一商業化指標」降為「重要領先指標」

→ 最終評價標準轉向成功任務經濟性、企業ROI和資本回報。

這已經不是純粹的架構設想。AWS Bedrock和Microsoft Foundry都已經把按品質、成本和任務複雜度進行模型路由做成正式產品；微軟披露，超過一萬家Foundry客戶使用過不止一個模型，約五千家使用過開源模型。Google Model Garden也同時提供自有模型、第三方閉源模型和開放模型的託管或自部署方式。

當然這迭代還處在早期，但趨勢應該越來越明顯了。

前言

一 分場景、多模型，企業採用AI進程進入工程化階段帶來的變化

二 「複合AI系統」到「中間層」崛起

三 多模型時代，超大CSP會不會成為堅實中間層

四 對超大CSP的價值重塑

五 新的 AI 商業化指標體系

一分場景、多模型，企業採用AI進程進入工程化階段帶來的變化

二「複合AI系統」到「中間層」崛起

三多模型時代，超大CSP會不會成為堅實中間層

四對超大CSP的價值重塑

五新的 AI 商業化指標體系

國家數據局：將加速制定全國一體化算力網技術標準

熱門文章