出典：ウォール・ストリートCN（华尔街见闻）
世界のAIインフラは今、「需給の大きなギャップ」に直面している。需要は千倍の速さで拡大する一方、チップ、メモリ、電力、データセンターの供給は、どんなに早くても追いつくまでに3年から5年かかる。トップVCのa16zは、需要が指数関数的に伸び、中核部品の受注が数年先まで埋まっている状況下で、従来のコンピューティングスタックはすでに物理的限界まで追い込まれており、AI時代に向けたインフラの再構築が本格的に始まっていると見ている。
このほど、シリコンバレーのトップベンチャーキャピタルであるa16z（Andreessen Horowitz）は、「マシンエイジファンド」（Machine Age Fund）の立ち上げを正式に発表し、AIインフラ分野への投資に特化する。a16z共同創業者のベン・ホロウィッツ、ゼネラルパートナーのマーティン・カサド、そして元VMware CEOでテクノロジーアドバイザーのラグー・ラグラムは、公開ビデオ対談でこのファンドの戦略的ロジックを体系的に説明した。その背後にあるのは、AIコンピューティング需要と供給能力の間で急激に広がっている亀裂の構図だ。
3人の中心人物の判断は極めて一致している。AIインフラの不足は、もはや特定の一部の問題ではなく、チップ、メモリ、ネットワーク相互接続、データセンターから、電力、冷却、変圧器、さらには銅鉱山にまで及んでいる——「その影響範囲は、銅鉱山にまで達している。それほど大きな話なのだ」とラグーは語る。
一方、ベン・ホロウィッツはシンプルだが力強い判断を示した。
「抱えている問題はどれも、十分なインフラがあれば解決できる。本質的にはGPUと金だ。問題が解き終わるまで、需要が止まることはない」
需要は「無限」、供給は「全線で逼迫」
a16zは、今回のAIインフラブームは、かつてのインターネット時代のインフラバブルとは本質的に異なると見ている。
「ダークファイバーを覚えているか。あの頃、大量に地中へ敷設されたのは、実際には投機的なもので、使われない“暗い”回線だった。しかし今日では、ほぼすべてのGPUが、生産される前にすでに予約販売されている」とマーティン・カサドは言う。
データ面でも、シグナルは同じくらい鮮明だ。
ハイパースケーラーの設備投資は今年約7000億ドル、来年には合計で1兆ドルを突破すると予想されている。
主要部品の供給はすでに2028年まで全面的に予約済みだ。マーティンは「数千基のGPUを対象に数日間にわたるオークションが行われた」ケースさえ見たことがあり、転売価格は定価の4倍だったと明かす。
大手メモリメーカーは、業界の旗艦カンファレンスであるHot Chipsで公にこう述べた。「現在すでに抱えている受注需要をすべて納品するには、3年分の生産能力が必要だ」——これはあくまで現時点の既存需要にすぎず、今後新たに増える需要は含まれていない。
GPU価格も異例の反発を見せている。「GPU価格はこれまで一貫して下がるものだった。この価格まで下がった後、また戻ってきた」とラグーは言う。これは歴史上、ほぼ前例がないという。
電力側でも、矛盾は同じように深刻だ。2028年までに、新設データセンターでは約44ギガワットの電力が新たに必要になると見込まれる一方、送電網の新規供給見通しは約25ギガワット程度にとどまり、大きな穴がある。ベン・ホロウィッツはこう付け加える。「我々はGPUも、電力も、冷却も、メモリも不足している。何を挙げても、すべて足りない」
「エンジニアリングの問題ではなく、リソースのボトルネック」
なぜ需要は天井なく膨らみ続けるのか。マーティン・カサドは核心的な判断を示した。
「かつて、何かを構築するというのはエンジニアリングの問題だった。エンジニアを投入するが、それは線形には拡張できず、『人月の神話』の法則に制約されていた。しかし今は、本当にリソース制約の問題だ。我々は大量の資金をシステムに投じ、システムが成果を生み出す。現在のボトルネックは、これらのシステムが、我々の投じるリソースに本当に見合う能力を持てるかどうかだ」
チャットボットから推論モデル、そしてエージェント、マルチエージェントへと、AIアプリケーションの世代が進むたびに、トークン消費量は指数関数的に増加している。ラグーの説明はより直接的だ。
「チャットに100トークン必要だとしたら、1つのエージェントには数千トークン必要かもしれない。需要は2つの次元で同時に膨らんでいる。1つのタスクで消費されるトークンが増え続ける一方、AIを使う人々の層も拡大し続けている。開発者から、ナレッジワーカーへ、そしてさらに広い一般ユーザーへと」
ベン・ホロウィッツは自身の見通しを示した。「トークン需要は、年間1000％近いペースで伸びる可能性がある。この速度には、インフラ供給は根本的に追いつけない」
「AIがより良くなる唯一の方法は、より多くのAIを使うことだ。推論はAIが繰り返し呼び出す基本構成要素であり、それがトークン数が倍々に増え続ける理由だ」とラグーは言う。
コンピューティング体系全体を「ゼロから再構築」する必要
a16zは、既存のAIインフラが直面する中核的課題は、単に「量が足りない」ことではなく、「アーキテクチャ全体がAI向けに設計されていない」ことだと見ている。
ラグーはこの再構築のロジックを体系的に整理する。
「カテゴリーを1つずつ見直していかなければならない。コンピュートには何が必要か。メモリには何が必要か。それらをどう相互接続するか。それぞれにどれだけの電力が必要か。どう放熱するか。これらをどう組み合わせるか。それが今、業界全体が取り組んでいることだ。問題を最も基礎的な部品レベルまで分解し、第一原理から再構築するのだ」
マーティン・カサドは、再構築の切迫性を裏付けるビジネスロジックを示す。
「最先端モデルの学習には、今やおよそ30億ドルから50億ドルかかる。推論側ではコスト回収のために少なくともその2倍、つまり約100億ドルが必要だ。推論で20％の効率を節約できれば、それは20億ドルになる。そして20億ドルあれば、ASICの研究開発を十分まかなえる。
つまり、単一のモデルのために専用チップを1つ設計することが、経済的に完全に成立する段階に来ている。これは業界史上、一度もなかったことだ。50億ドルを投じて単一のデジタル産物を作り出すことなど、これまでなかった」
物理的な面では、再構築のプレッシャーはさらに具体的だ。
- ラックあたりの消費電力は、かつての5～10キロワットから、100～150キロワットへと跳ね上がろうとしている。
- 計算密度は約70倍に向上。
- 冷却方式は空冷から液冷への移行が必須に。
- ラック電圧は800ボルトに達し、すでに高圧の領域に入る——全米で直流の認証を取得している電気技術者は約2％しかいない。
- 超高密度ラックは、データセンターの床耐荷重にまったく新しい要件を突きつける。
- コンクリートなどの建材価格もそれに伴って急上昇している。
ベン・ホロウィッツは率直に言う。
「我々はすでにその時代を過ぎた。既存のデータセンターのほとんどは、次世代コンピューティングの時代に入れば、完全に時代遅れになる」
トップ起業家がハードウェアへ大規模に回帰している
この構造的な機会は、すでにスタートアップエコシステムに明確なシグナルを生んでいる。
マーティン・カサドは、a16z内部に非公式の統計があると明かす。かつて、トップ起業家によるディールのうちハードウェア関連の割合は約3％から5％にすぎなかった。しかし今では、その割合は20％、さらには30％を超えている。
「起業家コミュニティは通常、VCコミュニティより賢い。彼らはここが非常に活発なイノベーション領域だとすでに見抜き、動き始めている」
こうした「ハードウェア起業家」の人物像も、従来のソフトウェア起業家とは異なる。ラグーによれば、この種の企業の創業者は「システム型創業者」でなければならないという。「単なる研究者や優れたコンピューター科学者ではだめだ。チップやシステムをアーキテクチャし、設計できなければならないし、それをどう製造するか、サプライチェーンをどう組むかまで考え抜く必要がある。これらはソフトウェア起業家が通常考える必要のない問題だ。ジェンスン・フアンは、この思考様式の究極の体現者だ。彼は最初からエコシステム全体を考えていた」
同時に、最先端AIラボは、ニーズがあまりに切迫しているため、アーリーステージのハードウェアスタートアップと直接契約を結び始めている。「ハードウェア製品がまだ出る前でさえも」だ。マーティンは、これは重要なシグナルの変化であり、ハードウェアスタートアップの初期の商業化リスクを大幅に下げると見ている。
資金環境も転換しつつある。スタートアップの初回資金調達規模は数億ドル規模に達しており、これは従来のハードウェア投資では極めて異例だ。
「マシンインテリジェンス」から「マシンエイジ」へ
この新ファンドの命名について、マーティン・カサドは率直にこう語る。「人工知能（Artificial Intelligence）という言葉は、実は最初から呼び方を間違えていた。本来は機械知能（Machine Intelligence）と呼ばれるべきだった」
「これは70年の歴史を持つコンピューターサイエンスの用語で、SF小説のイメージを背負いすぎている。しかも、実際には人間の思考様式を模倣しているわけではない。人間がすでに学んだことすべてを活用しているのであって、言語をゼロから再構築しているわけではない」と彼は言う。
一方、「Machine Age（機械の時代）」という命名には、ハードウェアへの敬意というもう1つの深い意味がある。「ここには深い皮肉がある。『ソフトウェアが世界を食い尽くす』と言っていた人々が、最後に行き着いた先で気づいたのは、本当の制約はソフトウェアの下にある物理的な機械だということだ。この名前は、今回の波においてハードウェアの重みがかつてないほど重要であることを認めるものだ」
マーティンは時間軸での判断を示した。「我々はまだ始まったばかりだ。言語とコード、そして始まったばかりのコンピューター利用。しかし今後30年、40年にわたり、科学、材料、バイオ、クリエイティブ……すべてが、問題にコンピューティングを投入する領域になる。我々は非常に長い道のりのごく初期にいる。覚悟しておくべきだ。このコンピューティング需要は、数十年続く」
a16zインタビュー全文記録（AI支援翻訳）：
オープニング
ベン・ホロウィッツ（a16z共同創業者）：
私たちは全く新しいテクノロジーの時代にいます。これは史上最も重要なテクノロジーです。それを支えるためには、全く新しいインフラが必要です。
ラグー・ラグラム（元VMware CEO / テクノロジーエグゼクティブ兼アドバイザー）：
通常、インフラと言えばサーバー、ストレージ、ネットワークといったものを指します。しかし今回は、それは鉱山、銅鉱山にまで遡ります。その影響範囲の広さがお分かりいただけるでしょう。
マーティン・カサド（a16zゼネラルパートナー）：
以前は何かを作る場合、中心となるのはエンジニアリングの問題でした。しかし今は、本当のボトルネックはリソースだと感じます。計算能力であれ何であれ、私たちはこれらのシステムに莫大な資金を投入し、システムは成果を生み出しています。しかし問題は、システムがリソースを消化する能力が、私たちが投入する速度に追いついていないことです。
ラグー・ラグラム：
大手メモリメーカーは、現在の受注需要を満たすには3年分の生産能力が必要だと言っています。
司会者：
ベン、マーティン、ラグー、ようこそ。ありがとうございます。では、この新しいファンドを紹介するために、まずマーク（アンドリーセン）の言葉を引用したいと思います。
「これは私がこれまで見てきた中で最大の技術革命です。明らかにインターネットよりも大きい。比較できるのはマイクロプロセッサ、蒸気機関、電力、そしておそらく車輪でしょう。」
皆さん、これがマシンエイジファンド（Machine Age Fund）です。紹介をお願いします。ベン、まずあなたから。
ベン：
簡単に言うと、私たちは今、全く新しいテクノロジー、しかも史上最も重要なテクノロジーを手にしています。破壊的な新技術が登場するたびに、私たちが依存しているすべてのもの、つまりインフラは、徹底的に更新される必要があります。そして今回の影響は、これまで以上に広範囲に及びます。
ですから、新しいチップ、新しいシステムソフトウェアだけでなく、全く新しい電力供給方法、銅線の交換など、ほとんどすべてを変える必要があります。これは非常にエキサイティングな時代です。この新しい時代のハードウェア面でのさまざまなニーズに対して、私たちは全く新しい投資アプローチを必要としています。
ラグー：
完全に同意します。通常、コンピューティングインフラについて話すとき、サーバー、ストレージ、ネットワークを指します。しかし今回は、鉱山、銅鉱山にまで遡ります。影響範囲の広さがこれでわかります。これが第一点です。
第二に、過去3年間でモデルの能力は着実に向上し続けており、モデル自体はもはやボトルネックではありません。実際、AIの助けを借りて、これらのモデルはますます速く強力になっています。現在のボトルネックは、私が「モデルの下」と呼ぶ部分、つまり基盤となるインフラにあります。ですから、これこそが私たちが重点的に取り組むべき方向です。
マーティン：
簡単に補足します。私たちは常に創業者に従って動いてきました。
過去数年間、明らかな傾向が見られます。ますます多くのトップチームが、複雑で難しい問題に取り組み始めています。正確な数字はありませんが、先週末に自分で概算しました。以前はトップ創業者が持ち込むプロジェクトのうち、ハードウェア関連は約5%でしたが、今では20%から30%を超えています。
創業者コミュニティの嗅覚はVCよりも鋭いことが多く、彼らはこの分野をイノベーションの活発な領域として認識し、積極的に動いています。
ベン：
5%でも過大評価だと思います。
マーティン：
ええ、確かに低いですね。おそらく3%くらいでしょう。
司会者：
では、どのようなマクロ条件がこの変化を推進したのか説明していただけますか？なぜこれほど多くの創業者がこの方向に殺到しているのでしょうか？彼らは何を見ているのでしょうか？
マーティン：
最も明白な点は、AIへの需要は基本的に無限であるということです。そのため、サプライチェーン全体に大きな圧力がかかっています。メモリなどの製品を製造するための原材料も含めてです。
AIには特別な点があります。需要が無限で成長も無限であるため、通常は「売れるかどうか」を心配する必要がありません。本当に心配すべきは会社の利益率、つまり効率性の問題です。
そして多くの効率性の問題は、結局のところハードウェアの物理的限界に帰着します。既存のシステムはAI向けに設計されておらず、この種のワークロード向けでもありません。ですからAIブームのビジネスモデルは、既存のシステムに大きな負荷をかけています。
世界はすでに認識していると思います。コアコンポーネントレベルで変革を起こさなければ、効率を向上させ、ビジネスの成長を支え、真の商業的価値を実現することはできません。
司会者：
では、現在の需要が本当に供給を上回っているのか、それともまた別の投機サイクルなのか、どうやって見分ければいいのでしょうか？
ラグー：
それを示す兆候はたくさんあります。
まず、需要を最もよく判断できる人々が巨額の調達注文を出しています。ハイパースケーラー（超大規模クラウド事業者）を見てください。彼らの設備投資は爆発的に増加しています。来年には、これらの事業者の設備投資の合計が1兆ドルに達すると言われています。今年はおおよそ7000億ドル以上です。ハイパースケーラーが業界でどのような位置にいるか考えてみてください。彼らはあらゆる方面からの需要を見ることができます。最先端AIラボが計算能力を求め、AIネイティブ企業が計算能力を求め、企業顧客が計算能力を求め、米国市場も海外市場も求めています。ですから、最も判断力があるのは彼らです。そして彼らの設備投資は前例のないほど増加しており、これは明確なシグナルです。
次に、私たちが日常的に接している企業を見ると、アプリケーション層の企業はすべて猛烈なスピードで成長しており、**成長速度は異常です。**最先端AIラボの成長も同様で、記録に残っています。ですから、需要側からのシグナルはこれほど明確だったことはありません。**これは決して投機ではありません。**最も重要なのは、これらすべてがまだ...
ベン：
しかもチップ価格はまだ上昇しています。こんな価格上昇は見たことがありません...
マーティン：
GPU価格は下落しています。ずっと下がってきました。
ラグー：
そうそうそう、ずっと下がっています。価格曲線を見ると、こう下がって（下向き）、そしてまたここに戻ってきました。そうです、そして市場の需要の5%、10%が止まれば、市場全体が止まるでしょう。
マーティン：
供給側から見ると、既存の供給は基本的に2028年まで予約済みです。状況はひどく、数千枚のGPUが数日間オークションにかけられてようやく取引されるのを見たこともあります。もちろん、もう一方は需要です。ラグーが言ったように、業界史上最も速く成長している企業群が見られます。
ラグー：
もう一点、**AIが完了できる作業単位の価値は絶えず向上しています。**しかしその裏では、消費されるトークン数が桁違いに増加しています。例えば、普通の会話では100トークンかもしれませんが、AIエージェント（Agent）は数千トークンを消費するかもしれません。ですから需要は2つの次元で同時に拡大しています。1つは同じことを完了するのに消費されるトークンが増え続けること、もう1つは将来恩恵を受ける人々がますます広がることです。開発者だけでなく、すべてのナレッジワーカー、さらにはそれ以上です。これが私たちが見ている傾向です。
司会者：
サプライチェーンの主要部品が2027年、あるいは2028年まで売り切れているとのことですが、業界全体にとって、これほど前もって完売することは何を意味するのでしょうか？
マーティン：
こんなことが以前にあったかどうかわかりません。覚えていますか？インターネット時代を考えてみてください。当時、私たちは大規模にインフラを敷設しましたが、その大部分は投機的なもので、実際には誰も使っていませんでした。「ダークファイバー」を覚えていますか？しかし今は、生産中のほぼすべてのGPUが事前に売れています。
ベン：
ええ、当時は状況がまったく違いました。1998年、1999年頃には確かに帯域幅不足の問題がありましたが、実際の帯域幅需要は大きくありませんでした。なぜなら、インターネットを使う人がそもそも少なかったからです。ですから、それは双方向の問題でした。企業はこぞって参入し、理論的にはより多くの帯域幅が必要でしたが、それを消費するユーザーが足りませんでした。そして、本当に大量の帯域幅を消費するには、ビデオのような高帯域幅のことをする必要がありましたが、当時はビデオはうまくいきませんでした。理由は多岐にわたり、データセンター内の帯域幅とはあまり関係ありませんでした。
ですから、当時は少し似ていましたが、本質的に異なります。**今は全面的に逼迫しています。GPUを4倍の価格で転売する人がいる、そんな状態です。**それだけでなく、電力も冷却も不足しています。さらに厄介なのは、建設自体も非常に困難で、大きな政治的抵抗に直面していることです。ですから、私のキャリアの中で、このような状況に遭遇したことはありません。本当に前例がありません。
マーティン：
ちょっとした話を共有します。最近、ある大手上場企業のCFOと話しました。この会社はクラウド移行に非常に抵抗してきたため、自社で大量のサーバーを持っています。
彼らは在庫確認を行ったところ、サーバー内のメモリの価値が上がりすぎていて、これらのメモリを売却するだけで、クラウド移行にかかる費用のすべてを賄えることが判明した。だから、我々は今、本当に非常に異例な状況に置かれていると思う。
Ben：
その通り。今は何もかもが不足している——電力、冷却、メモリ、GPU、何を挙げても、すべて不足している。
Raghu：
そう。業界最高峰のフラッグシップカンファレンス「Hot Chips」がスタンフォードで開催されている。メモリメーカー首位の企業は、今日すでにある需要を満たすだけでも、3年分の生産能力が必要だと言っている——これはあくまで既存の需要だけで、将来の需要はまだ計算に入っていない。
司会：
つまり今はすべてが同時に逼迫しているわけですね。これは、モデルがこれほど強力で有用になることをみんなが過小評価していたため、これほどの需要が来るとはまったく予想していなかったからなのでしょうか？
Martin：
それすら理由ではないと思う。これは突然現れたものだろう？まだ4年しか経っていない。たとえ完璧な先見性があったとしても、一度動き出してしまえば、私には……
Ben： 我々が生産能力を間に合わせるのは無理だった。
Martin： 生産能力を間に合わせるのは到底無理だった。完全に不可能だ。
我々が話しているのはチップのサイクルで、通常3年から4年かかる。我々が話しているのは着工してデータセンターを建設することで、通常4年から5年かかる。
Ben：
さらに送電網に接続し、ゼロから建設し、電源も必要になる。だから自分で発電所を建設するか、通常は両方やらなければならない——自前の発電所を建設し、かつ安定した電源も確保する。これは簡単なことではない。
Raghu：
そういうことだ。ある業界があって、それが20%、30%のペースで成長できれば、それはすでに非常に良い成長率だ。しかし、それが今つながろうとしているのはAIソフトウェア業界で、そちらの成長率は3桁が最低ラインだ。この落差がどれほど大きいか分かるだろう。しかも、このギャップはさらに広がり続けている。
司会：
では、なぜこの種のファンドは以前は存在しなかったのでしょうか？
たとえば、5年前あるいは7年前、なぜこの分野への投資は今ほど魅力的ではなかったのでしょうか？Ben、どう思いますか？
Ben：
我々の参入タイミングはまあ正しいはずだと思っている——もちろんそう願っている。でも正直なところ、実は数年前に参入していてもまったく問題なかったかもしれない。
Martin：
つまり、どのテクノロジーの時代にも、独立系企業が一定数登場するのを見つけられるということだ。メインフレームからクライアント/サーバーアーキテクチャへ移行したとき、明らかに一群の企業が出てきた。インターネットへ移行したときも、また一群が出てきた。だからシスコやジュニパーネットワークスが生まれた。ハイパースケールデータセンターの時代でさえ——ついでに言えば、その時代は基本的に少数の大手クラウド事業者が自ら垂直統合を進めることで推進された——Aristaの台頭も見てきた。
だから、ハードウェアチップに投資するという線は常にチャンスがあった。ただ以前はチャンスが比較的限られていた。変化そのものも比較的限られていたからだ——チップ企業が1社、スイッチ企業が1社という程度かもしれない。しかし今は、あらゆる面が変わっている。だからBenの言うことに同意する。我々はもう少し早く始められたかもしれないが、今はこの変化の規模があまりに大きく、これをやるのは当然のことだ。
Ben：
もう一点ある。「知能」への需要は垂直方向にほぼ無限に伸びていて、まったく先が見えないということだ。見ての通り、すでにAIを導入している企業は、利用量が猛烈な勢いで伸びている。一方で、ほとんどの企業はまだAIを深く使っていない。消費者向けはさらに始まったばかりだ。
だから、トークンへの需要は、毎年およそ1000%近く成長するが、供給はそのスピードにまったく追いついていない。インフラ全体のレイヤーで我々がやらなければならない仕事の量は膨大で、それによってようやく供給をこの成長速度に追いつかせられる。だから投資機会は、この道の先にまだたくさんあると思う。
さらに、既存のハードウェアシステムのアーキテクチャは、すべてまったく異なるコンピューティング時代向けに設計されている。だから単に「もっと計算能力が必要」という話ではなく、新しいタイプのインフラをゼロから構築する必要があるということで、そこには大量のチャンスがある。
Raghu：
そう、これらの技術はすべて、当初設計された時点での物理的限界にすでに達している。Benが言った銅線のような問題だ。あらゆる技術カテゴリを一つずつ見ていけば、必ず見つかる——「よし、この技術は限界だ」と。だから今は、次のレベルへ進むために技術的ブレークスルーが必ず必要になっている。
司会：
需要側についてもう少し話したいと思います。チャットボットから推論モデル、エージェント、マルチエージェントへと進むにつれて、一歩進むごとに、一つのタスクを完了するために消費されるトークン数は倍々で急増します。
Ben：
AIほどAIを使うのが好きなものはない。
司会：
では、なぜこのトレンドはプラトーを迎えずに続いているのでしょうか？このまま続いていくと思いますか？
Martin：
この質問にはいくつかの角度から答えられる。まず、現時点では、我々がスケール拡大を実現する方法は、本質的に大量の推論、つまり大量のトークンに依存している。強化学習（RL）とは何かを考えてみてほしい。大量の推論だ。チェーン・オブ・ソート（chain of thought）とは何か。それも大量の推論だ。長時間稼働するエージェントは、もちろんさらに大量の推論だ。だからこれは、我々が現在スケール拡大に使っている経路の一つにすぎない。
もっとマクロな視点で理解したいなら、以前は何かをやろうとすると、それはエンジニアリングの問題で、エンジニアを大量に投入した。しかし、これは線形にスケールしない。エンジニアリングにはそれ自身の自然法則がある。それが『人月の神話』の教えだ。
**しかし今の感覚としては、これは本当にリソース制約の問題だ。**トークンであれ何であれ、システムに資金を投入すれば、システムは成果を生み出す。今のボトルネックは、これらのシステムが我々の投入するリソースをまだ完全には消化しきれないことにある。
だからトークンは、我々が現在いるこのスケーリング曲線上の一つの段階にすぎないと思う。しかし、以前のエンジニアリングにあったような「自然の調整弁」はもう存在しない。だからこのトレンドは続くはずで、我々はそれを支えるために十分な供給を建設しなければならない。
Ben：
簡単に言えばこうだ。**何か問題があれば、十分なインフラ——基本的にはGPUと資金——さえあれば、すべて解決できる。**だから問題が解決し尽くされない限り、需要は消えない。それが課題だ。
Raghu：
AIがますます強くなる方法は、より多くのAIを使うことだ。推論は、AIが繰り返し使う最も基本的な構成要素だ。だからトークンはこうして絶えず倍増していく。
Martin：
そう、そして「自己触媒効果」のようなものもある——AIを使ってさらに多くのAIを生み出すこと。たとえばAIを使ってGPUのカーネルコードを生成するのは、それ自体がこのプロセスの中でより多くのAIを使っていることになる。
だから一つの理解の仕方がある。かつては、資金が入ってくると、直面するのはエンジニアリングの問題で、通常2年かかり、しばしば失敗し、自然の調整弁があって、ようやく最終的に製品が手に入った。**今は、資金が入ると、ハードウェアが直接知能を生み出す。その間に何も遮るものがない。**今の唯一の制約は、十分な供給を造れるかどうかだ。これはまったく異なるダイナミクスだ。
Raghu：
もしかすると、より多くのGPUというのもそれほど盤石なことではないかもしれない……
司会：
ええ、確かに。
Raghu：
だからこれは一つの循環のようなものだ。
Martin：
資金とGPUとデータさえあれば、予見可能な将来にわたって、これらをずっとスケールし続けられる。
司会：
これは本当に興味深い。この10年間、私は業界全体に漂うある声をずっと聞いてきた——スタートアップに流れ込む資金が多すぎる、我々はこれらの企業に過剰投資している、ベンチャーキャピタルには資金が多すぎる、と。
Ben、これが何を意味するのかもう少し説明してもらえますか？以前は一般的に、ある業界に資金を注ぎ込めば注ぎ込むほど、必ずしも大きな成果が得られるとは限らないという懐疑論があったからです。しかし今我々が話しているのは、まさにその逆です——ある意味で、この市場がどれだけ大きくなるかは、我々が集団でどれだけ投入するかにかかっている。
Ben：
そう、見ての通り、スタートアップの世界で我々がよく知っていることが一つある。**もし私が君より2年先を行っていて、君が1000人のエンジニアを雇って追いつこうとしても、自分の会社を壊すだけだ。**それは決してうまくいかなかった。それが人月の神話だ——1ヶ月で9人の女性に子供を産ませることはできない。これは鉄則だ。
しかし今は、その論理が逆転している。10万人のエンジニアを雇うのではなく、30億ドルを手にして、超大規模クラスタを立ち上げる——すると、突然、ほら、Grokが空から降ってくる、あるいは何でもいい、そうやって突然現れて、突然現実のものになる。
**これらの先行優位は、資金で埋めることができる。ほとんどどんな問題も、資金で解決できる。そして、それが本当に機能する。**これは我々がこれまで経験してきたどんなことともまったく違う。ついでに言えば、我々は皆、心理的にまだこのことに適応している途中だ。
司会：
ChatGPTの週間アクティブユーザーはすでに10億人に達しています。およそ3000万人の開発者が利用していて、計算能力需要のかなり大きな部分を占めています。人々が実際に何に使っているかを考えると、現在と将来の計算能力需要をどう見るべきでしょうか？
Raghu：
これは一つの発展の流れだろう？ChatGPT
最初は日常的なチャットツールだったが、その後プロフェッショナル向けのプログラミングアシスタントになった。そして、プログラミング能力を活かして、ナレッジワーカー向けに多くの優れたツールが開発された。つまりナレッジワーカーこそが次の主戦場だ。現在、世界には10億人を超えるナレッジワーカーが待ち構えている。この需要にはまだ長い道のりがある。しかも彼らがやっていることを考えてみてほしい——さまざまなワークフローや自動化など——さらにその先にはバックオフィス業務があり、すべてAgent（エージェント）が動かしている。つまり、こうしたものは一歩ずつ解放されていくもので、一段階解放されるごとに、需要は一桁大きくなると言っていい。私たちはまだ始まったばかりだ。
Ben：
そうだね。そして今はGrok Botがあることで、プログラミングの領域で起きた変化が、Grok Botを通じてあらゆるコンピューターの利用シーンに広がりつつある。つまり私たちはもう一つの需要の波の中にいて、この先も間違いなくさらに続くだろう。今のところ需要はほぼ上限がないように見える。具現化AIやロボットについてはまだ話してもいないが、それもまた巨大な需要源になるだろう。
Raghu：
Martinはこの分野の専門家だが、私の理解では、Grok Botは「コンピューター操作」（computer use）という能力を使っている。まるで本物の人間がコンピューターの前に座って、ひたすらキーボードを叩いているようなものだ。
Martin：
先週末、実際に使ってみたんだ——ずっと放置していたサービスのクレジットカード情報の更新をやらせたり、大量のサブスクリプションの解約をやらせたりした。プログラミングとはまったく関係ない、まさにコンピューター操作そのものだよ。
Raghu：
突然、ナレッジワーカーの集団を作り出したようなものだね。ただし、彼らはみんなコンピューターの中で働いている。
Martin：
Marc Andreessenの言うとおりだと思う。最も的確なたとえは蒸気機関か電力だ。理屈はこうだ。私たちは新しいものを導入し、それを労働力に変換できるようになった。今はいくつか明白な応用があるが、この先おそらく30年から40年かけて、私たちはあらゆる問題に計算資源を投じていくことになる——明確な報酬シグナルがある問題なら何にでもだ。そして私たちはまだ始まったばかりで、今できているのは言語とコード、この2つだけだ。コンピューター操作もようやく始まったところだ。
しかし、この先には何がある？科学、材料、生物学……もちろん、クリエイティブ制作も巨大な応用シーンだ。つまり、私たちは長い旅のごく初期段階にいて、すでに一つの重要なボトルネック——従来型のソフトウェアエンジニアリング——を取り除いた。もちろん、ボトルネックは移動するし、他の部分の複雑性も増していく。
だが、私たちはごく初期で、非常に長い、問題に計算資源を投じ続ける時代にいる。だから覚悟しておいたほうがいい。この計算資源需要は数十年続く。
司会：
その話が出たので、Marty、Grok Botについて聞かせてほしい。舞台裏で話したとき、君は感銘を受けたと言っていたね——もちろん私たちはあらゆる角度から関わっているわけだが——でも君が一番面白いと思うところは何だろう？
Martin：
この業界は、「AIがどう私たちの生活に入ってくるか」について、何度か認識のアップデートを経験してきたと思うんだ。
最初の頃は、みんなこう思っていた。製品にAIを足せば、まあそんなものだろう、検索ボックスみたいなものだと。それからAIとチャットするようになり、AIも返事を返してくれる。それが当時の一番一般的なやり方だったからね。
その後、OpenAIが何かを出した。今年の初めのことだ。あれを見て思ったよ。もしかすると「Googleより優れた検索」だけではAIの完全な姿ではないのかもしれない、と。むしろ独立した存在にするべきだが、それは君の延長でもある——君のキーを共有し、パスワードを知っていて、君が本来やろうとしていたことを直接やってくれる。だから、それは君の延長でありながら、より人間に近い存在だ。
そして、Grok Botが本当に正しくやったのはこういうことだと思う。いや、発想を変えよう——もしそれが実は社員だったらどうだろう？今や君の手元には、君のキーや権限を特別に取得する必要のない実体がいる。自分のコンピューターを持ち、自分のブラウザを持っている。しかも、これらは世界で最も賢いモデルだから、どんな社員にもできることができる。
これは面白い。なぜなら今や、何かを成し遂げたいとき、最初に浮かぶのは「Grokにこれ、やれるかな？」だからだ。しかも、たいてい答えはイエスだ。君がまったく思いつかなかったことでもね。わかりやすい例は言うまでもない。カレンダー管理や会議設定を手伝ってくれるとか。でも、あまり明白でないものもある。例えば、メールを全部読ませて分類・整理させたりする。具体的なやり方は指示していないが、実際に分類を実行する前に、まず私に確認しに来ることを知っている。つまり、こうしたものはすでに十分賢くて、比較的高次のタスクを与えれば、自分で方法を考え、それなりにきちんと物事をやり遂げるんだ。
司会：
Ben、君がこの問題について、組織の中でどう機能するかを含めて、ずいぶん考えてきたのは知っている。文化の面にももちろん強い関心を持っているね。これについてどう思う？
Ben：
うん、つまり、私たち自身の状況だけを見ても、これは新しいタイプの社員が増えたようなものだ。しかも、この種の社員は非常にたくさん増えるだろう。私たちは適応しなければならない。かつて、普通の人間の社員とどう協力するかを把握するのに何年もかかったのと同じようにね。今、私たちにはもう一つの別の社員が加わった。彼らと協力するのには学習曲線がある。
彼らは大量のトークンを消費し、大金を使いながら、何も役に立つことを成し遂げないかもしれない。物事を忘れ、内容を捏造し、良いパフォーマンスもあれば悪いパフォーマンスもあり、セキュリティ問題も引き起こしうる。そうしたあらゆる側面が存在する。だが同時に、彼らは極めて効率的でもありうる。
だから、彼らをどう組み込み、実際の人間の同僚とうまく連携させるかは、私たちが今まさに模索していることだと思う。
ここに立って「答えを見つけた」と言うつもりはない——完璧なループができていて、会社全体が完全に自動化されていて、人間を全員ゆっくり解雇していくつもりだ、だってそれができるから——まったくそういう話ではない。私たちが考えているのはむしろ、どうすればすべての人間の社員を超強力にできるか、同時に会社を壊さないかだ。ロボットが一度制御不能になったら、大変なことになるからね。
Raghu：
そうだね、本当に面白い。私たちはエージェントをシステムに最もうまく導入する方法について、いくつかの異なるやり方を試してきた。最終的に、Martinのあの洞察が一番効いた。**「彼らを人間として扱い、そのまま物事を進めていく」**ということだ。今は実際にそうしている。これが組織内でこの取り組みを進めるうえで、最も検証に耐える方法だとわかったんだ。
司会：
供給側の話に戻りたい。ボトルネックがどこにあるのかを深掘りしたい。以前、データセンター、チップアーキテクチャ、システムソフトウェア、インフラそのものについて話したが、これらはもともとAI向けに設計されたものではなかった。もし本当にAI向けに再設計するとしたら、どんな姿になるのか？この問題を考えるためのメンタルモデルは何だろう？
Raghu：
いい質問だ。もし「こうしたインフラの従来モデルは変わらなければならない」という判断から出発するなら、カテゴリーごとに見ていって、価値の断層がどこにあるかを見つけ、それぞれの环节のボトルネックを一つずつ解消していくことができる。
最終的に到達したい状態はこうだ。推論エンジンが何をしているかを見る——大量のメモリを占有し、計算しながら新しいトークンを次々と生成している。ならば、このプロセス全体をどう最適化できるかを考えられる。メモリはどんな形態であるべきか？計算はどんな形態であるべきか？それらはどう通信するのか？それぞれどのくらいの消費電力が必要か？その消費電力要件がある中で、どうスケジューリングするのか？そして、これらをどう組み合わせるのか？
これはまさに今、業界全体の多くの創業者たちがやっていることだ。彼らは問題を最も基本的なコンポーネントに分解し、問う。ここで実際に行われている計算は何か？答えは行列積だ。ならば、このシナリオに合わせて計算ユニットをどう最適化するか？そして、トークン生成のプロセスにはますます多くのメモリが必要になる。**このメモリ体系をどう階層化して設計するのが最適か？**電力はどう消費されるのか？そして、これらを接続しなければならない——同じチップ内でどう接続し、チップ間でどう接続し、データセンター間でどう接続するのか？各段階のデータ転送にそれぞれどのくらいの電力が必要か？
だから、端から端まで分解して、それらの基本構成要素で再構築しなければならない。これが私たちの見ている方向性であり、私たちが機会を見出している場所だ。
Martin：
この構図がどう変化しているかを理解するための、面白いメンタルモデルを教えよう。
現在、最先端モデルの学習コストはおよそ30億から50億ドルだ。学習後、推論で少なくともそのコストを回収しなければならない。そうだろう？これを商業的に成立させるには、およそ2倍を回収する必要がある。つまり推論側で約100億ドルの収益を生み出す必要がある。
もしそのプロセスで20%の効率を節約できたら、20億ドルだ。20億ドルあればASIC（専用チップ）を十分に作れる。
つまり、私たちはすでに非常に興味深い地点に来ている。単一のモデル向けに専用ASICをカスタム設計することが、経済的に合理的になる。なぜなら、そのモデルに投じられた資本があまりに巨額だからだ。
しかも、従来のソフトウェアとは違う。従来のソフトウェアには大量の状態があり、非常に動的だ。しかし、これらのモデルは固定されている。モデルの重みは固定されている。
世界が本当に「モデルごとに専用ASICを1つ」という方向に進むかはわからない。だが、これはアーキテクチャがどう進化するかを理解するための良いメンタルモデルを提供してくれる——こうした巨額の資本投入に合わせてカスタマイズされ、ますます専用的になっていくということだ。
この業界の歴史の中で、私たちはデジタルな産物に対して、これまで一度も50億ドルという規模の資金を直接投じたことはなかったと思います。だから、これはハードウェアに対して、私たちがこれまでで最も高い要求を突きつけることになります。
司会者：
その話が出ましたが、ラックの電力需要は現在、約5〜10キロワットから100〜150キロワットへと跳ね上がろうとしています。計算密度はおおよそ70倍に向上しました。冷却方式も空冷から液冷へと変わり、これはすでに必須要件となっています。では、その背後にはどのような投資機会があるのでしょうか？
Ben：
まず、ラックの電力がそのレベルに達すると、交流（AC）では対応できなくなります。これは実はかなりクレイジーなことです。そこで直流（DC）を使わざるを得なくなります——ちなみに、直流自体も個別に冷却が必要ですし、率直に言って、非常に危険です。これは少し皮肉な話で、かつてエジソンは交流がいかに危険かを喧伝することで直流を売り込もうとし、わざわざ動物を感電させるデモまで行いました。
そう、あの馬ですね。
つまり、彼の言っていたことは正しかった。ただし、それは彼自身が推していた仕組み——直流の電力が極めて大きいという点については、実際その通りなのです。
まず電力から話しましょう。この分野は大きく変わると考えていますし、冷却と合わせて見ればなおさらです。私たちは空冷から液冷へと移行しつつありますが、実際、最先端のデータセンターにとって液冷はすでに標準装備であり、この流れはほぼ決まっています。ただし、問題はそれだけでは終わりません。
ご存じのとおり、現在の政治環境を考えると、液冷であるだけでは不十分で、環境配慮型の液冷でなければなりません。直流であるだけでも不十分で、社会から電力を奪うだけではなく、社会に電力を供給できる電力でなければなりません。
現在、素行の悪いデータセンターもあります——実際にはごく一部で、およそ10%ですが——大量の水を浪費しています。もちろん、ネット上ではピスタチオやアーモンドなどと比較して、それらの方が水を多く消費すると言う人もいますが、データセンターはこの点でまだまだ効率化できる余地があります。また、「電力の寄生虫」のように、電力を消費するだけで送電網に何も還元しないデータセンターもあります。こうしたものはすべて終わると思いますし、終わらせなければなりません。なぜなら、私たちはすでに臨界点を超えてしまい、後戻りはできないからです。
これにはかなり高度なエンジニアリング能力が必要ですが、まだ多くの人がこの分野に投資していません。だから、ここにチャンスが生まれようとしています。
また、ラック密度がそこまで高くなると、他にも多くの問題が出てきます。たとえば、床の設計はその重量に耐えられるものでなければなりません。これは口先だけの話ではなく、実際に存在するエンジニアリング上の問題です。
さらに、さまざまなリソースが大量に必要になります。そして、これらの機器は非常に騒音が大きいため、データセンターの壁はより厚く作らなければなりません。さもないと周辺住民に迷惑がかかり、それは許容できません。どの州もそんな事態を認めないと思います。
ですから、現在多くの人が建築構造や設計で採用している考え方は、すでに完全に時代遅れになっています。ひとたび次世代に入れば、既存のデータセンターのうち使えるのはごく一部だけになるでしょう。
Raghu：
確かに、みんなメモリ価格の話をしていますが、最も値上がりが速い分野の一つは、実はデータセンター用の鉄筋コンクリートです。
もう一つあります。これらのデータセンターがラックに800ボルトを送り込むとき、第一に、危険度が大幅に上がります。第二に、データセンター内部の800ボルト高圧を扱える十分な資格を持つ電気工事業者がまったく足りません。なぜなら、これはすでに高圧電圧の領域だからです。
Ben：
米国では、**電気技師または電気工事士のうち直流の認定を受けているのはわずか2%**です。この数字がすべてを物語っています。Metaは現在、この仕事に就く人を無料で訓練する専門研修プログラムを実施しています。それは素晴らしいことで、いわば新しい形の「ジョブ・コープ」ですね。
面白いことに——AIがすべての仕事を奪うと言われていますが、結果としてAIは大量の新しい電気技師を生み出そうとしているのです。
司会者：
ええ、私たちは何か大きなことをやろうとしているようですね。
Raghu：
そのとおりです。大規模なクラウドデータセンターを持つ大手企業たちは、今まさにサーバーの組み立てやデータセンターへの機器設置といった作業にロボットを導入する実験を猛烈に進めています。AIの進化が続くにつれて、この傾向はますます顕著になっていくでしょう。
Martin：
ついでに言うと、私たちが現在募集しているファンドの焦点はコンピューターサイエンスのインフラストラクチャーです。つまり、あらゆるモデルが動作するために依存しているもの、それらはすべてコンピューターサイエンスの範疇に含まれます。チップ、ネットワーク相互接続、ストレージ、そしてそこから下流へと進み、最終的には電力そのものにまで至る可能性があります。
司会者：
では、ロボット分野、特にArmアーキテクチャについては、どのように布石を打つお考えですか？あるいは、米国内での製造という方向性については、どう理解すればよいのでしょうか？
Martin：
もちろん、その点については——私たちは、AIがその上で動作することになるあらゆるプラットフォームが注目対象だと考えています。AIの大きなブレークスルーの一つは、コンピューターが物理世界と相互作用できるようになったことです——見る、聞く、話すことができる。これはまったく新しいプラットフォームが登場することを意味します。
皆さん「エッジデバイス」という言葉を好みますが、この言葉には実際のところ大した意味はありません。モバイルデバイス、CDN、ノートパソコン、あるいはあちこち動き回れる物理的な実体を持つデバイスである可能性もあります。
ですから、私たちはインフラストラクチャー方向の投資家として、規制の重い業界や過度に垂直化された業界には手を出しませんが、AIをさらに外側へと広げていけるコンピューターサイエンスのプラットフォームであれば、どれにも非常に強い関心を持っています。
司会者：
データセンターの話に戻りますが——2028年までに、新しいデータセンターにはおおよそ追加で44ギガワットの電力が必要になる一方、送電網が新たに供給できるのは約25ギガワットにとどまると見込まれています。
Ben：
ちょっと待ってください。私たちは「ギガワット」という言葉をよく口にします。まるで、ああ、100ギガワット欲しい、といった感じで。Martin、ギガワットって実際どのくらいの規模なんですか？
Martin：
つまり、どのくらい大きいかって？フットボール競技場がいくつも並ぶくらいの面積が必要です。本当に巨大です。5万人分の電力使用量に相当します。
Ben：
では、その電力はどのくらいの規模感なんですか？
Martin：
何を聞きたいんですか？5万世帯分の電力使用量に相当します。5万、5万世帯、5万の家庭です。私はアリゾナ州フラッグスタッフで育ちましたが、あそこは4〜5万人の小さな街で、大学生が多い時期でも6万人程度です。街全体の電力使用量が1ギガワットに届きません。だから、基本的に1ギガワットで……
Ben：
……あなたの街全体に電力を供給して、エアコンも動かせる、それだけの量です。ええ。
Martin：
つまり、本当にそういうことです。
Ben：
彼はあっさり言っていますけどね。
Martin：
いやいや、話を戻しますが、みんな口ではギガワットと言っていますが、実際に建設され稼働しているギガワット級データセンターはごくわずかです。私たちが進むべき道のりはまだ長いのです。
司会者：
では、なぜ電力会社と大手テック企業はもっと速く建設できないのでしょうか？
Ben：
ああ、ここには問題が多すぎます。まず、現在データセンターの建設はまだ人手に頼っているので、通常の建設工事そのものの問題があります。しかし、それよりも厄介なのは、許可を取得しなければならないこと、そして電力を接続しなければならないことです。つまり、同時にいくつものことを進める必要があります。一つは電力の接続枠を確保することですが、これは巨大な規制と入札をめぐる綱引きです。天然ガスの送電網などのリソースは、接続できる量が非常に限られています。さらに、自前で発電所を建設する必要もあります。そして、どうでしょう？現在、変圧器、タービン、必要なものはすべて品不足です。だから、これらをすべて調達しなければなりません。これはソフトウェアの問題ではありません。エンジニアを増やして週末に残業すれば解決するというものではありません——そもそもその方法もうまく機能しないことが多いですが、ここではまったく通用しません。ここには実体のあるボトルネックがあり、リードタイムを圧縮するのは非常に困難です。世界で最も優秀な頭脳たちが時間を短縮しようとしていますが、本当に容易ではありません。しかも需要は減速する気配がありません。私たちはすでに追いつけていません。需要は現在、毎年10倍で成長しており、供給はそのスピードにまったく追いつけません。
Martin：
ついでに言うと、状況はそこまで悪化しています——今では多くの新興企業がGPUクラスターを立ち上げるために、メキシコやオーストラリア、あるいは他の国々に行くことがよくあります。米国では実現が本当に難しすぎるからです。
Ben：
ええ、私たちは実際、大量の雇用機会と長期的な経済的利益を他国に明け渡しているのです。なぜなら、この国ではさまざまな形でデータセンターの立地を制限しているからです。正しいやり方は、一連の基準を策定することだと思います。データセンターはコミュニティに還元すべきです——電力供給がより安定し、騒音がなく、水の問題もなく、雇用も創出する。これこそが基準であるべきです。そして全員がその基準に従う。話を戻すと、すでにこれを実現しているデータセンターは存在します。これは遠い未来の空想ではありません。エネルギー料金が毎年下がっているのは、彼らが自前で発電し、昼間は電力を送電網に売り、夜間は送電網から電力を借りているからです——夜間は送電網の電力使用量が少なく、発電所は常にピーク容量で発電しているからです。データセンターは一日中安定した電力使用量であり、都市は昼間の電力使用量が非常に高く、夜間は低い。この両者の間には補完的な共生関係が成り立っています。
司会者：
大きな視点から見ると、私たちはこの名前についてずっと議論してきました。なぜ私たちは「機械の時代」という言葉が、私たちが経験していることを表現するのに特にふさわしいと考えるのでしょうか？
Martin：
では、私から説明させてください。まず、Benの言うことは完全に正しいと思います——「人工知能」という言葉は誤用されています。私たちはこれを「人工」知能と呼ぶべきではありませんでした。機械知能と呼ぶべきだったのです。
司会者：
詳しく説明してください。なぜそう言えるのでしょうか？
マーティン： なぜなら、それは必ずしも人間の思考方法ではないからです。それは人間の思考のアーカイブであり、人間の既存の思考の集合体です。しかし、これまでのところ、私たちはゼロから始まり、何の知識も持たないAIを世界に放ち、言語を自ら再構築させる方法を知りません。それはできていません。私たちがやったのは、人間の既存の知識から学び、それを効果的に活用できるシステムを構築したということです。そして「AI」という言葉自体は、すでに70年使われているコンピューターサイエンスの一般的な用語で、多くの異なるものを含んでいます。もちろん、SF小説やNick Bostromのような人々の著作など、多くの重荷も背負っています。ですから第一に、現実を認めることです：これは本質的に機械知能であると。そして、「機械」という部分を特に強調する必要があります。ここには深い皮肉があります——「ソフトウェアが世界を食い尽くす」と唱えた人々が、今や大量の資金を投じた結果、最後にボトルネックとなるのは底辺の物理的な機械であるという状況に直面しています。ですから、この名前はある意味で敬意を表しています：この波において、ハードウェアの重要性は極めて高いということを明示したいのです。
Raghu：
そう、次のブレークスルーは基盤となる機械の質から来ると思う。それが基本的にこの名前の由来だ。
司会者：
しかも、この名前はかっこいい。
Ben：
「機械」って、響きがいい。未来感がある。
司会者：
そうですね……現在のAIインフラへの投資規模や、これらのビジネスがいかに資本集約的かを考えると、新規企業が実質的に市場に参入できる段階はもう過ぎてしまったのでしょうか？つまり、なぜNVIDIAやCoreWeaveのような既存の巨人が市場の大部分を直接取ってしまわないのでしょうか？
Raghu：
彼らは皆、素晴らしい仕事をしている。それは間違いない。しかし、先ほどの議論に戻ると、成長を維持したり、改善のペースを維持したりするために、根本的な新規イノベーションは必要ない。1ドルあたりのトークン数、1ワットあたりのトークン数、1ラックあたりのトークン数、消費電力など、どの指標を取っても、これらの指標で10倍の向上を実現したいなら、新しいイノベーションが必要だ。そして、新しいイノベーションは伝統的に、第一原理から出発し、異なる方法で問題を考える創業者から生まれる。そうだろう？それが次のイノベーションの飛躍に必要なものだ。
マーティン：
これは市場の法則ですよね？つまり、既存のチップ大手の時価総額がすでに数兆ドルであると仮定すると、それは絶対に事実です。**そのうちのわずか5%でも、巨大な民間企業になります。**NVIDIAもこれらのことをできると言えるでしょう。確かに彼らはできます。しかし、彼らの焦点が90%の成長をもたらすことに置かれているなら、なぜ5%のためにそれをするのでしょうか？クラウドコンピューティングの時代にも同じ質問をしましたよね？例えば、アマゾンはこれをやらないのか？マイクロソフトの時代にも同じ質問をしました。マイクロソフトはなぜこれをやらないのか？これは市場の非常に自然な法則です。一定の規模に達すると、周辺部に巨大なイノベーションの機会が生まれます。
ベン：
ええ、私たちのパートナーであるアレックス・ランペルに面白い言葉があります。彼は当時Trial Payというスタートアップを経営していて、自分のサービスをMeta（当時はFacebook）に売り込もうとしていました。企業開発担当のダン・ローズはこう言いました。「アレックス、それは素晴らしい。銀のレンガを拾えるようだが、私は今、金のレンガが地面に散らばっていて、拾いきれないほどだ。銀のレンガを見に行くのが一番嫌なことだ。」NVIDIAは今まさにこの状況だと思います。
司会者：
100%同意。以前も話したが、もしOpenAIやAnthropicの能力のスイートスポット、つまり彼らが中核的に注力している領域にいるとしたら、それは居心地の悪い場所かもしれない。しかし、その3〜5つの中核領域の外にいるなら、おそらく……
マーティン：
市場が拡大するとき、それは断片化します。これは常に起こることです。フォードの初期を考えてみてください。1913年にルージュ川工場がありました。石炭、水、ゴムの木が入って、自動車が出てくる、まるで流れ作業のようなものです。
Ben：
そう、彼はアマゾンのジャングルにゴムの木のプランテーション全体を買ったんだ。『フォードランディア』という本がある。彼は完全な垂直統合を望み、アマゾンのジャングルにフォードランディアという都市を建設した。そこはアメリカンスタイルで、音楽堂もアイスクリームも何でもあった。そして最初は実際にしばらく機能していた。彼が労働者に時間通りに来るよう要求するまでは。すると皆は「くそくらえ」と言った。
Martin：
だから今の自動車産業を見ると、もちろん複数の層のサプライヤーがいて、たくさんの会社がある。こういうことは常に起こる。市場が拡大し、断片化する。成長が鈍化すると、統合に向かう。統合はM&Aか、新しい挑戦者の台頭によって起こる。これが民間市場の永遠のサイクルだ。
ベン：
ええ、ユースケースが絶えず増えているからです。たとえ最大の企業であっても、最大のユースケースをカバーできますが、ユースケースがあまりにも多く、しかもマーティンが言ったように、多くは非常に価値のあるシナリオです。大企業はすべてをうまくやることはできません。
ラグー：
アーキテクチャも以前はシンプルで統一されたものでしたが、今はそうではなく、非常に複雑になっています。ですから、異なる方法で最適化することは必然的な傾向です。
マーティン：
ついでに言うと、面白いことがあります。多くの人があまり理解していませんが、利益率はある意味でソフトウェアのような標準的な技術手法から自然に「落ちてくる」ものです。これは実際には技術的な問題ではなく、ビジネスが軌道に乗れば、利益率はかなり良くなることが多いです。パッケージ販売のソフトウェアでもSaaSモデルでも同様です。しかし、AIは必ずしもこの法則に従いません。私たちは新しい時代に入りつつあるかもしれません。ハードウェアレベルでの最適化がビジネスの利益向上に、これまで見たことのない方法で極めて重要になるのです。 ですから、ここには大きなチャンスがあります。
司会者：
どのような企業に投資するのか、深く話し合おう。まずはセグメントの紹介から始めるか、すでに投資した事例をいくつか話すか。まだ公表していないプロジェクトもあると知っているが、Raghu、まず君から話してくれ。
ラグー：
ええ、これまで議論してきたように、細分化されたトラックは実際には多くのカテゴリーをカバーしています。最も明白なのは計算チップですが、今ではチップを1つ作るだけでは不十分で、完全なシステムを作らなければなりません。そのシステムには何が必要でしょうか？メモリの革新、ネットワークの革新、電源チップなどが含まれるかもしれません。各カテゴリーで、公開企業レベルの企業が生まれる可能性があり、これらは私たちが注目している方向です。これらをすべて統合した後には、大量のソフトウェアも必要です。これらのプロセスを自動化し、デバイスクラスタを管理するためなどです。ですからソフトウェアも重要な分野です。これらは相互に関連しており、どのカテゴリーも無視できません。
司会者：
この種の企業と普通の企業の違いについて話せるか？公表済みの投資事例を見ると、初回の資金調達規模が非常に大きく、数億ドルに達する。創業者のタイプが違うのか？それとも他の違いがあるのか？従来のソフトウェア投資と比べて、この種のビジネスの構築と投資はどう違うのか？
ベン：
最大の違いは、あなたが言ったとおりです。製品を作る前に、大量の資金を投入する必要があるということです。これが本質です。大規模モデルも同様ですが、大規模モデルの道筋は比較的明確だと思います。一方、この分野はリスクが高く、必要な資金もより多く、私たちがこれまでやってきた多くのことよりも複雑です。もう一点、チップ分野の創業者の多くは「ベテラン」です。例えば、メモリの作り方を知っている人たちは若くありません。ですから、その点も異なりますが、とてもエキサイティングです。
ラグー：
もう一点、これらの創業者は皆システムレベルの創業者でなければなりません。つまり、単なる研究者や優れたコンピューター科学者ではだめです。チップやシステム全体をアーキテクチャし、設計できる必要があり、さらにそれをどう実際に量産するか、誰が供給するか、そして多くの下流の問題まで考え抜く必要があります。ソフトウェアをやっているなら、通常はこれらを考える必要はありません。
最も優れた創業者——もちろん、ジェンセン（黄仁勲）はこの分野の「マイケル・ジョーダン」です——は、チップの設計を始める前に、エコシステム全体を考え抜いています。なぜなら、この業界にはボトルネックが多すぎて、すべての要素が噛み合わなければならないからです。これはこの種の創業者の顕著な特徴であり、他の分野とは大きく異なる点です。
マーティン：
外部環境の要因も2つ重要です。第一に、AIラボは今、リソースに非常に飢えていて、スタートアップと積極的に協力したがっています。だから私たちは非常に早い段階で多くのシグナルを得られます。ラボはハードウェアがまだ納品されていない段階で、すでに企業と契約を結んでいます。これは5年前とはまったく違います。当時は未熟なハードウェア製品をGoogleのような会社に売ることなど不可能でした。第二に、資本の供給がはるかに緩和されています。今では、これが業界の構造を再構築する時だというのが一般的な認識で、後続の資金調達ラウンドには大量の資金が利用可能です。もちろん、投資したい分野が資本の入りたがる場所であることを望むでしょう。だから全体的な環境もまったく異なります。
司会者：
パトリック・カールソン
Carlsonは数年前に、今は若い創業者がますます少なくなっていると感じると話していた——かつてザッカーバーグが大学の寮でFacebookを作ったり、ゲイツがMicrosoftを作ったりした頃とは違うと。もちろん、Michaelのような若者もいて、象徴的な会社を築いている。しかし、あなたが言ったように、今は「ベテラン」が起業するケースが増え、20歳の若者はますます少なくなっているようだ。この現象をどう見ているか？
Ben：
私が思うに、Raghuが言ったように、もし作っているものがサプライチェーンが極めて複雑で、製造が必要で、技術的難度も高いなら、経験は本当に重要になる。ElonやTravis Kalanickを見ても、彼らが若い頃に作っていたのもソフトウェア企業だった。あの最上位の人たちでさえ、大量の起業経験や技術経験を積んでから、より複雑でより巨大な領域に「ステップアップ」して挑戦している。これらの領域には可動部分があまりにも多い。
起業の仕方を学んでいるとき、製品に完全に精通していてもすでに十分難しい。製品にまだ精通しておらず、学びながら起業しなければならないなら、まったく新しい創業者にとって、その学習曲線はあまりにも急すぎる。
つまり私が言いたいのは、一方ではMichaelのように若くて賢く、純粋なソフトウェアAIを手がける人がいる。もう一方ではElonやTravisのように経験豊富で、より複雑な領域を乗りこなせる人がいる。Michaelも10年後にはできるようになるかもしれないが、今の彼には確かに難しすぎる。
Martin：
もう一つ重要なのは——この分野は業界全体とアカデミアから20年近く放置されてきた。ずっと存在はしていたが、成長トラックになったことは一度もなかった。成長していたのは常にソフトウェアやネットワークといった方向だった。だから今、大学を卒業したり大企業から出てきたりして、この方面の経験を持つ人は本当にごくわずかしかいない。インターンに行って「ついでにチップを作る」なんてことはない。
しかし、これはすべて変わりつつある。私たちは、これらの新しい会社から出てきた創業者をまるごと一世代育てることになるだろう。彼らはそのやり方を知っている。彼らはより初級のポジションで業界に入り、そこから成長していく。
ここまで話すと、Elonの最も偉大な遺産の一つは、実は彼が創業した会社そのものだけではなく、SpaceXから出ていった創業者たちだと思う——彼らは産業システム全体を変えつつあり、その影響は会社そのものを超える可能性すらある。私たちはコンピューターサイエンスとハードウェアの領域でも同じことが起きるのを目にするだろうと信じている。
Raghu： そうだね、実際、私たちが出資した会社の一つは20代の創業者2人が立ち上げたものだが、彼らのオフィスを一回りすれば、経験豊富な人たちもたくさんいるのがわかる。だからこれはとても理想的な組み合わせなんだ。
Ben： 必ずしも創業者本人に経験がある必要はないが、その創業者は経験のある人たちを動かし、頼ることができなければならない。本当に彼らを引き込み、彼らと協働できなければならないし、その人たちが十分に優秀であることなども必要だ。これはなかなか複雑なことだ。
司会者： 経験と言えば、私たちは今回かなり規模の大きい新しいファンドを立ち上げるが、新しいゼネラルパートナーは加わっていない。そう、ある意味で私たちは統合をしている。これは、あなた方数名と、チームの他の人たちがこの分野で大量の経験を積んできたのに、これまで完全には発揮されてこなかったからだ。そう、ずっと休眠状態だった。
Martin：
少し面白い話だが、私たちはほとんど誰かに「道を外れるな」と注意してもらう必要があるように思う。というのも、私たちのバックグラウンドのせいで、それは難しい。この注意が必要だと思うのは、私たちはキャリアの中でシステムとハードウェアに多くの時間を費やしてきたので、自然とそちらの方向に引き寄せられてしまうからだ。だから見ての通り、私たちはこの数年、明らかにハードウェアにもかなり投資してきただろう？私たちはSpaceXに出資し、Androidに出資した。これらはどれも非常にアーリーステージの小切手だった。Astronomerにも出資し、Waymoにも出資した。だから初期であっても、私たちはこうした投資をかなりやってきた。しかしそれは、それがすでに私たちの遺伝子に深く刻み込まれているからだ。だから今回は必ずしもチームを拡大したり、何か能力を特別に育成したりする必要はないと思う。これらはすべて追加のプラス要素だ。
司会者：
皆さん、今回のMachine Ageファンドの締めくくりの対談に参加してくれてありがとう。ありがとう、ありがとう、ありがとう。
