Coinbase CEO:より優れたデフォルト設定、ルーティング、キャッシュ機構でAI支出をほぼ半減

PANews 6月27日ニュース、Coinbaseのブライアン・アームストロングCEOはXプラットフォーム上で、同社がインフラ最適化(デフォルト設定、ルーティング、キャッシュメカニズム)によって、トークン使用量が指数関数的に増加する中でAI支出をほぼ半減させたと述べた。その具体的な施策は以下の通り:

  • より優れたデフォルトモデル:オープンソースでコストパフォーマンスの高いモデル(GLM 5.2、Kimi 2.7など)をデフォルトで使用。従業員の91%は元々利用上限に達したことがなかった。
  • インテリジェントルーティング:タスクに応じて最適なモデルに自動ルーティング(最先端モデルは計画用、安価なモデルは実行用に使用)。AIが人間に代わってモデルを選択する。
  • 効率的なキャッシュ:キャッシュヒット率を大幅に向上(例えばLibreChatでは5%から60%に向上)。
  • コンテキストの簡素化:新しいタスクで新しいセッションを開始し、ファイル範囲を絞り込み、未使用のツールを切断して無駄を削減。
  • 可視性の向上:自由な使用を認めつつ、支出を見える化する。
共有先:

著者:PA一线

この内容は市場情報の提供のみを目的としており、投資助言を構成しません。

PANews公式アカウントをフォローして、強気・弱気相場を一緒に乗り越えましょう
関連トピック
PANews APP
Anthropic:米国政府、Mythos 5システムの一部米国機関への再配備を承認
PANews 速報