PANews 6月27日ニュース、Coinbaseのブライアン・アームストロングCEOはXプラットフォーム上で、同社がインフラ最適化(デフォルト設定、ルーティング、キャッシュメカニズム)によって、トークン使用量が指数関数的に増加する中でAI支出をほぼ半減させたと述べた。その具体的な施策は以下の通り:
- より優れたデフォルトモデル:オープンソースでコストパフォーマンスの高いモデル(GLM 5.2、Kimi 2.7など)をデフォルトで使用。従業員の91%は元々利用上限に達したことがなかった。
- インテリジェントルーティング:タスクに応じて最適なモデルに自動ルーティング(最先端モデルは計画用、安価なモデルは実行用に使用)。AIが人間に代わってモデルを選択する。
- 効率的なキャッシュ:キャッシュヒット率を大幅に向上(例えばLibreChatでは5%から60%に向上)。
- コンテキストの簡素化:新しいタスクで新しいセッションを開始し、ファイル範囲を絞り込み、未使用のツールを切断して無駄を削減。
- 可視性の向上:自由な使用を認めつつ、支出を見える化する。



