SemiAnalysis最新訪談：儲存還有翻倍空間，短中期慎對CPO，CPU只是配角

AI基礎設施的每一層正在同步承壓，而機會與誤判並存。

SemiAnalysis創始人Dylan Patel近日接受播客專訪，系統梳理了當前AI基礎設施棧的核心動態與投資邏輯。

他的判斷涵蓋模型經濟學、記憶體超級週期、CPU的重新定價、CPO的時間線風險，以及資料中心能源供給的結構性機遇。

針對市場對AI投資回報率（ROI）的普遍質疑，Dylan透露，Anthropic已於今年第二季度實現自由現金流轉正，年化經常性收入突破500億美元，毛利率超過70%。在企業端，最新AI模型帶來的生產力躍升遠超算力成本的增加，促使企業削減其他軟體開支以維持爆炸性增長的AI預算。

在硬體演進層面，向推理模型的範式轉換正在重構市場需求。

Dylan強調，記憶體面臨長達數年的結構性短缺，仍有2至3倍上行空間；與此同時，儘管智能體和強化學習推高了CPU需求，但賣方市場對此定價過高，CPU的增長主要來自歷史「補帳」，其在AI伺服器中的絕對價值仍遠不及GPU。

Dylan認為，備受市場期待的共封裝光學（CPO）大規模落地時間，則被明確推遲至2028年底至2029年，意外延長了銅纜連接器的紅利期。而電網輸配電的受限，正迫使資料中心轉向「表後電源」（自建電源），在傳統的晶片投資之外，催生出龐大的工業能源和電力轉換供應鏈投資機會。

Anthropic率先造血，AI需求敍事開始落地

對於市場上關於AI企業ROI的質疑，Dylan Patel給出了具體數據予以回應。

「Anthropic在第二季度已經實現了自由現金流為正，4月盈利，5月盈利，6月看起來也會是一樣。」他表示，Anthropic年化經常性營收已超過500億美元，毛利率超過70%。OpenAI的營收也隨著Codex採用率的提升快速增長。

SemiAnalysis自身的支出軌迹也印證了這一趨勢。去年11月，該公司90人團隊年化AI支出不足10萬美元；到今年1月底，因Claude Code大規模鋪開，這一數字飆升至400萬美元年化；目前已達1100萬美元，峰值週折算年化一度觸及1400萬美元。「員工人力成本加上AI成本，AI這部分已經超過了三分之一，年底前很可能達到一半。」

他同時指出，更新、更強的模型在實際使用中並不必然更貴。舊模型可能需要10萬個token、10次交互才能完成一個任務，新模型可能只需2.5萬個token、1次交互。「每次模型從4.6 Opus升級到4.7 Opus，我們的支出會先下降一週，然後又飆上去——因為大家一看，以前做不了的事現在能做了。」

他認為，這也是Anthropic在與OpenAI的競爭中佔據優勢的核心原因之一：token效率更高，用戶綜合成本更低。

記憶體：結構性短缺，而非普通週期

在所有硬體品類中，Dylan Patel對記憶體的判斷最為堅定。

「這不是短期短缺，是會持續多年的結構性短缺。」他指出，記憶體產能每年僅增長20%至30%，而AI側需求正在翻倍又翻倍，兩者之間的缺口將持續擴大。

驅動這一判斷的核心邏輯來自推理模型對KV快取的衝擊。傳統對話式推理的上下文長度以數千token計，KV快取消耗有限；但以o1為代表的推理模型出現後，上下文長度爆炸性增長，KV快取隨之急劇膨脹，記憶體成為最直接的受益品類。SemiAnalysis在2024年12月即發佈報告，專門指出這一趨勢。

供給側的剛性約束將迫使下游市場重新分配有限記憶體資源。他預測，價格彈性低的消費電子將率先承壓——中低端手機廠商出貨量已下降40%，iPhone和MacBook明年價格將上漲。「記憶體會持續漲價，消費電子被壓縮到一個新的水位，直到AI拿到它需要的記憶體，才算真正夠用。」

他補充稱，即便週期下行屆時也會到來，「從波谷到波谷，長期增長是毋庸置疑的。」

CPU：補缺行情有限，別過度外推

CPU是今年AI基礎設施敍事中湧現的新主角，但Dylan Patel對此持有明確的警示立場。

CPU需求的復甦邏輯清晰：強化學習需要大量CPU來運行環境驗證（代碼單元測試、模擬操作等）；智能體推理要求模型頻繁調用工具、與現實世界交互，這些操作高度依賴CPU算力。

與此同時，過去幾年大規模出貨AI晶片，配套CPU嚴重不足，目前正處於集中補缺階段，ARM、英特爾、AMD均已受益，英偉達Vera CPU也給出了200億美元營收指引。

「但我要給一個重要警示：這裡面有大量補缺效應。」他表示，一旦歷史欠帳補完，後續只剩增量需求，需求將回歸正常。從絕對金額看，Blackwell單塊約5萬美元，CPU約5000美元，即便比例上CPU增配更多，美元量也遠低於AI加速晶片。

「記憶體和AI加速晶片才是大頭，CPU是被低估後的重估，現在已經更合理定價了，但不會無限期地以超過AI晶片的速度增長。」

光互連：長期看好，短中期慎對CPO

網路與光學互連是另一個市場情緒高漲的領域，但Dylan Patel對CPO（共封裝光學）的落地節奏持審慎態度。

「CPO真正大規模量產，我的判斷是2028年底到2029年。」他指出，目前製造良率、晶片設計和供應鏈成熟度均未達到大規模部署標準，而英偉達Rubin及其後續架構Feynman仍將使用全銅方案，CPO在GPU側還需等待數代晶片迭代。

他透露，SemiAnalysis上週剛向機構訂閱客戶發佈報告，中期內反而更看好銅纜和非CPO光學方案，對CPO持謹慎態度。部分下游晶片的設計變更（如Rubin Ultra的Kyber已去掉800V設計）進一步推遲了CPO落地時間。安費諾等銅纜連接器公司將因此比預期獲益更多。

「CPO長期會發生，銅纜長期會被取代，但時間線被推遲了，短中期銅纜仍有很大機會。」

電力：自建電源將成主流，創新路徑多元

資料中心的電力供給正在成為AI增長最硬的物理約束。

按Dylan Patel的預測，新增資料中心用電量今年20吉瓦，明年30吉瓦，後年50吉瓦，增長近乎爆炸性。

他將能源問題拆解為三個維度：輸電、發電與轉換。輸電是最難突破的環節，涉及監管政策、地方電力公司壟斷結構以及成本分攤機制，短期內難以改變。發電與轉換則機會廣泛。

他預測，未來幾年內，新增資料中心用電的一半將來自「表後電源」（behind the meter），即企業自建電源，而非依賴公共電網。

目前主流方案是聯合循環燃氣機組（CCGT），來自GE Vernova、三菱、西門子等廠商；同時也出現了往復式發動機、工業燃氣輪機乃至改裝自船用、火車、卡車發動機的非傳統方案。「聽起來粗糲，但它能跑，而且已經在被人用了。」

更長期來看，他判斷大約兩年內太陽能加儲能的綜合成本將低於燃氣發電；更遠期則是太空資料中心——將計算晶片部署至軌道，太陽能電池板無需穿透大氣層，能量密度遠高於地面，且無需儲能。

轉換側同樣充滿投資機會，從IGBT、碳化矽到氮化鎵MOSFET，以及固態變壓器、UPS和超級電容，整條電壓轉換鏈路正在快速演進。

SemiAnalysis目前規模最大的研究部門，已不是半導體，而是其內部稱為「DEI」（資料中心、能源與工業）的團隊，追蹤全球每一座資料中心與發電廠的部署動態。