Coinbase CEO:公司透過更優的預設設定、路由和快取機制將AI支出減少近半

PANews 6月27日消息,Coinbase CEO Brian Armstrong 在 X 平台表示,公司通過基礎設施優化(預設設定、路由和緩存機制),在代幣使用量呈指數級增長的情況下,AI 支出減少了近一半。其措施包括:

  • 更好預設模型:預設使用開源/性價比高的模型(如 GLM 5.2、Kimi 2.7)。91% 員工原本從未達到用量上限。
  • 智能路由:根據任務自動路由到最合適的模型(前沿模型用於規劃,廉價模型用於執行),讓 AI 代替人工選擇。
  • 高效緩存:大幅提升緩存命中率(例如 LibreChat 從 5% 提升到 60%)。
  • 精簡上下文:新任務開啟新會話、縮小文件範圍、斷開未用工具,減少浪費。
  • 更高可見性:允許自由使用,但讓支出可見。
分享至:

作者:PA一线

本內容只為提供市場資訊,不構成投資建議。

關注PANews官方賬號,一起穿越牛熊
PANews APP
波蘭警方搗毀一個涉嫌加密貨幣盜竊的SIM卡交換團夥
PANews 快訊