Anthropicの研究者がウォール街のAI弱気派と激論：AIは集中管理か、分散競争か？

8 月 14 日、X 上で起きた対立が、AI 業界の最も核心的な哲学的対立を表舞台に引き出した。

一方は Sholto Douglas、Anthropic のポストトレーニング研究者であり、強化学習を担当する技術の中核人物。もう一方は Gavin Baker、Atreides Management の創業者で、数十億ドルを運用するテック・ヘッジファンドマネージャーであり、今年 All-In Podcast で AI インフラ投資に関する体系的なフレームワークを立て続けに発信し、ウォール街で最も AI に詳しい投資家の一人と見なされている。

発端は、Baker が All-In Podcast で行った発言だった。彼は、複数の信頼できる情報源から聞いたとして、Anthropic CEO の Dario Amodei が社内で「Anthropic は最終的に『世界で唯一残る民間企業』になる可能性がある」と述べたと語った。Baker の言葉はこうだ。「もしそれが本当なら、Dario にはそんなことを誰にも二度と言わないよう強く勧める。」

Douglas は X 上で真っ向から反論した。「まったくの虚偽だ（Completely false）。私は Gavin の見解を評価しているが、この話を彼に伝えた者は誰であれ嘘をついている。目的は、一部の人々がどうしても信じさせたがっている物語をあなたに信じ込ませることだ。」

そして彼は追い打ちをかけた。「同じ連中が、直前には『Anthropic には堀（モート）がない』と言い、直後には『Anthropic は危険なほど強力になり得る』と言う。この二つの判断が同時に成り立つことはあり得ない。」

Baker は真っ向から言い争おうとはしなかった。彼は Sholto が事実を明確にしてくれたことに感謝しつつ、より大きな問題を指摘した。「シリコンバレーの非常に真剣な多くの人々が、同様の話のあるバージョンを実際に聞いており、それを信じている。なぜなら、それは Dario の公の発言と一致しているからだ。」

この対立の真の価値は、Dario が実際にその言葉を口にしたかどうかにはない。それは、AI は集中すべきか分散すべきか、安全とは結局のところ管理を意味するのか競争を意味するのかという、より深い意見の相違を引き起こしたことにある。

Baker の枠組み：AI は危険すぎるからこそ、集中させてはいけない

Baker は All-In Podcast で、この議論全体の中で最も明快な一言を放った。

「Anthropic や効果的利他主義運動の人々は、この技術は危険すぎるため、広く配布することはできないと考えている。一方、ザッカーバーグ、Elon、Jensen が考えているのは、この技術は危険すぎるため、集中管理することはできないということだ。」

Baker の論理の連鎖はこうだ。Anthropic は、AI が極めて強力かつ危険になり得るため、慎重な規制と集中管理が必要であり、少数の「責任ある」研究所が門番を務めるべきだと考えている。しかし Baker は、この論理は最終的に一つの帰結に行き着くと考えている。規制を通じて参入障壁が設けられ、少数の企業が事実上の独占を手にし、オープンソースが制限され、競争が弱まるという帰結だ。そして歴史が繰り返し証明しているのは、集中した絶対的権力が良い結果を生んだことは一度もないということだ。

彼は AI を銃の権利に例えた。アメリカ人には銃を所持する権利がある。銃が悪用される可能性があるにもかかわらず、その権利は防御と暴政への対抗に同時に役立つからだ。Baker は、個人的に自分に仕えてくれる AI、自分の価値観にアラインメントされた AI が欲しいのであって、Dario Amodei が「人類にとって何が最善か」と考えるものにアラインメントされた AI ではないと述べた。

Baker はオープンソースモデルを強く支持している。彼は Dwarkesh Patel の見解を引用し、Anthropic の Claude は「憲法」とアラインメントシステムを内蔵しているため、その根底にある動作ロジックは Anthropic が正しいと考える方法に従って動いていると指摘した。彼は Anthropic の人々が悪人だとは思っていないが、どのような企業であれ一社が「全人類にとって何が最善か」を定義することは危険だと考えている。

彼はさらに、直感に反する投資判断を示した。オープンソースモデルの台頭は、必ずしもフロンティアラボの価値を損なうわけではないというものだ。彼のたとえはマンハッタン計画だ。オッペンハイマーとファインマンは、仕事を遂行するために数千人の普通の科学者を必要とした。エリートは、より多くの動員可能な「知的労働力」を得たことで、むしろ価値が高まった。同じように、オープンソースモデル（「150 IQ」）はフロンティアモデル（「250 IQ」）によって編成・指揮され、オープンソースは量を担い、フロンティアは価値を担う。

Douglas の反撃：市場は競争によって、あなたが心配しているすべてを解決しつつある

Douglas の反論は具体的なゴシップにこだわらず、Baker の物語の論理的基盤を直接攻撃するものだった。

彼は Dario Amodei の長文へのリンクを貼り、こう書いた。「AI 市場は現在、地球上で最も競争の激しい市場だ。世界最大級の企業がすべて、より賢く、より安価なモデルを提供しようと全力を尽くしている。すべてがうまくいけば、私たちはあらゆるもののコストをエネルギーコストにまで引き下げることに成功するだろう。それは素晴らしいことだが、多くの人々の既存の堀（モート）を脅かす。彼らは恐れているのだ。」

この言葉には多くの含意がある。Douglas が言っているのは、Baker や、その背後で「Anthropic が世界を独占しようとしている」という物語を広める人々の多くは、まさに AI によって既存の堀（モート）を脅かされている利害関係者だということだ。彼らは Anthropic の「野心」や「規制の虜（レギュラトリーキャプチャー）」を誇張しているが、本当の目的はオープンソースへの追い風を作ること、自分の投資ポートフォリオに資すること、あるいは純粋に変化への恐怖から来ている。

Douglas はさらに、Baker の議論における核心的な矛盾を指摘した。もし Anthropic には堀（モート）がなく、オープンソースに押しつぶされると考えるなら、同時に同社が世界を独占することを心配するべきではない。もし同社が危険なほど強力になると考えるなら、同社に競争力がないと言うことはできない。この二つの判断は相互排他的だ。

別のポストで Douglas はこう書いている。「確かに、AGI が実現すれば資本主義は非常に奇妙なものになり、『企業』という概念はまったく違って見えるようになるかもしれない。」彼は AI 時代の企業形態に関する Dwarkesh Patel の記事へのリンクを貼り、この問題は「集中 vs 分散」という単純な二分法よりはるかに複雑だと示唆した。

回避された真の問題

Baker と Douglas の議論の見事な点は、二人とも実際には明白な論理の誤りを犯しておらず、意見の相違が根底にある前提に由来していることだ。

Baker の根底にある前提は、AI は兵器化され得るほど十分に強力であり、したがって権力の分散は権力の集中よりも安全だというものだ。民主制度が啓蒙専制よりも安全であるのと同じだ。彼は人間性に対して現実主義的な態度を取っている。どれほど善意があろうと、いかなる人も抑制されない超知能を持つべきではない。

Douglas の根底にある前提は、AI 市場の競争の激しさそのものが最良の抑制と均衡のメカニズムだというものだ。政治的物語を通じて AI の力を「分散」させる必要はない。市場がすでにそれを行っているからだ。Google、Meta、xAI、OpenAI、DeepSeek、Kimi、GLM——世界最大の企業と最も優れたチームが同じ方向へ突き進んでいる。このような競争構造の下では、どの企業も「世界で唯一残る民間企業」になることは不可能だ。

二人とも、より鋭い問いを回避している。もし AI が本当に Dario の言うように、ホワイトカラー職の 50%を消滅させる可能性があるのなら、「競争」と「分散」だけで十分なのか。競争は効率性を確保するが、公平性を保証しない。分散は単一障害点がないことを確保するが、システム的リスクが生じないことを保証しない。

Baker は「個人的に自分に仕える」AI が欲しいと言った。しかし、もし誰もが自分に仕える超知能を持つようになったら、世界はどうなるのか。それはもはや技術の問題ではなく、ビジネスの問題ですらない。これは政治哲学の問題だ。

そしてこの問題において、一人の Anthropic 研究者と一人のヘッジファンドマネージャーの意見の相違は、人類が AI に直面するときの最も根源的な不安の分裂を映し出しているのかもしれない。人類は、あまりに強力な門番をより恐れているのか、それとも門番のいない世界をより恐れているのか。

この議論に勝者はいないだろう。しかし、少なくとも二つの恐怖が同時に鮮明になった。