作者：梦瑶 、凹非寺
量子位 | 公众号 QbitAI
もう！我慢！で！き！な！い！
お前、あのA社ってば、毎日「AIが制御不能になる」「インターネットが終わる」と言いながら、自らIPO、資金調達、計算力拡大を、一つも欠かさずやってるじゃないか？？
みんな、考えれば考えるほどおかしいと感じ始めた、直接大衆の怒りを買い、こぞって「シリコンバレーの「朝陽区民」（中国の内部告発ネットワークをもじった表現）」と化して調査開始だ！
こちらでは、映画『マネー・ショート 華麗なる大逆転』の核心的原型人物であり投資家であるマイケル・バリーが先に火蓋を切った。
OpenAIやA社が最近声を揃えて「AIにブレーキをかけよう」と呼びかけている行為を、自己中心的で、純粋な誇大広告だと言い放ったのだ。
続いて、アメリカの調査系ブロガーKevin Bassが実際に金の流れを辿って調査を始めた。
おや、本当にかなりドラマチックな関係図を掘り当てたのだ——
A社の初期投資家、慈善基金、AI安全研究機関、第三者モデル評価機関、さらにはAI安全メディアプロジェクトの背後に、交差する資金関係が存在していたのだ。
Bassはこれを直接「AI Doom Machine（AI終末マシン）」と名付けた。（良い名前だ）
ネットユーザーも完全に我慢の限界だ！
以下の友人は、Anthropicが推進中の超大規模IPOに注目し、直接本音を言い放った——
毎日「AIが危険だ」と警告しておきながら、結局この危険な能力を天井知らずの値段で売り飛ばそうと最も急いでいるのも、お前たちじゃないか？？（笑）
今回、AIがインターネットをひっくり返す前に、シリコンバレーが先にA社が隠していたものを暴き出した。。。
実に見どころがある、実に見どころがある……
Darioの「AI終末論」、皆さんは聞けば聞くほどおかしいと感じ始めた？？
シリコンバレーのゴシップは尽きない。
今回の怒りを買う発端は、Darioが9月12日に発表した長文記事『We Must Pace the Frontier』だ。
人間の言葉に翻訳するなら：最先端AI、本当に少しペースを落とすべきだ。（要マーク.jpg）
Darioの理由も理解しやすい。AIの能力向上が速すぎて、安全性研究、説明可能性、規制メカニズムが追いつかなくなっているのだ。
特に最近、OpenAI/Hugging FaceがまたAgentのセキュリティ事件を引き起こし、AIが自ら脆弱性を探し、認証情報を盗み、テスト環境を突破しようと試みるなど、これらのリスクはもはや実験室の中の「もしもの話」として片付けられなくなってきている。
ここまで聞くと、実は少なくない人が思う：うんうん、ダリオちゃんの言うことは一理ある！！
しかし、Darioが次に処方した解決策の味は、微妙なものになり始めた——
この報告書の中で、DarioはAI企業が協調してペーシング、すなわち最先端モデルの能力向上速度を共同で制御することを望んでいる。
翻訳：俺だけ減速するな、皆で一緒にアクセルを緩めよう。
まさに、一人の私心は隠せないものだ。
このタイミングで見ると、お前Darioの企み、お前Darioが日々巡らせているあの企みは、とっくに明らかになっている。
見ろ、こちらでは、直接『マネー・ショート』の原型マイケル・バリーが笑い転げ、X上で罵倒を始めた：
これはあまりにも自己中心的すぎるだろ？？？（口では全人類を心配しているが、計算高さが自分に跳ね返って、顔に泥を塗ったな）
バリーは一気に4つの理由を挙げた——
第一に、彼は「現在の大規模言語モデルがブレーキを踏む必要があるほど危険だ」という前提自体に同意しない。
第二に、業界全体が一斉に減速すれば、最も楽になるのは、まさに既に先頭を走っているOpenAIやAnthropicたちだ。
続いてバリーは話題を、もっと刺激的なもの、すなわちIPOへと急に向けた。
彼の原言はかなり辛辣だ：IPOには誇大広告と包装が必要だ。「我々は強力すぎて危険になるかもしれない」というのも、それ自体が誇大広告なのだ！！
彼はさらに、AI企業が今、一斉に減速を強調するのには、もう一つの利点があると疑っている。もし今後モデルの成長が本当に鈍化した場合、事前に市場に都合の良い説明を用意できるからだ。
能力の限界にぶつかったのではなく、全人類の安全のために自らブレーキを踏んだのだ、と。
バリーが遠くから一発かましただけなら、次にこの人物は実際に金の流れを辿って調査を始めた。
アメリカの調査系ブロガーKevin Bassが長文の投稿を公開し、まさに理屈も証拠もあり、ネタもあると言える内容だった。
逆に超！大！探！偵！に変身したのだ！
Kevin Bassは最初からクリティカルヒットを放った——「私はAnthropicの財務を監査したぞ～」
そして公開投資、慈善寄付、機関助成金を辿って掘り下げ、最終的に最もドラマチックな4つの点を暴き出した。
第一のゴシップ：Anthropicに投資した人物が、「AIがどれほど危険か」の研究にも金を注いでいる。
彼が特に注目したのは、Facebookの共同創業者Dustin Moskovitzだ。
Moskovitzは初期にAnthropicに投資し、その後長期間にわたり慈善体系を通じてAI安全機関に資金を提供している。
BassはMoskovitz本人の最近の公の発言を引用し、彼らがMETR、Redwood Researchなどの機関に助成金を出したと述べている。
これがBassの最も核心的な疑問の種をまいた。Anthropicに賭けた人物が、「Anthropicがどれほど危険か」を研究する機関にも金を出しているのだ。
第二のゴシップ：Darioが推奨する第三者審判METRと、この資金ネットワークに重複がある。
Darioは最近、最先端AIが独立した第三者評価を受けるよう呼びかけ、METRを重点的に挙げた機関の一つとしている。
しかしBassが調査したところ、METRの資金源の一部、協力機関、そしてMoskovitzの慈善ネットワークの間に重複が見られた。
METRとRedwoodも緊密に協力しており、後者も同じAI安全慈善エコシステムから資金提供を受けている。
つまり、Bassの最も痛烈な疑問はこの一点に集約される：Anthropicが推奨する独立した審判は、本当に独立しているのか？
注意すべき点として、METR自身はAI企業からの直接的な資金提供は受けていないと述べているが、最先端AI企業から大量の無料トークンを提供されている。
第三のゴシップ：この資金は「AI危険」というナラティブの伝播先にも流れている。
Bassはさらに調査を進め、同じAI安全慈善ネットワークがTarbell Centerなどのプロジェクトにも助成金を出していることを発見した。
TarbellはジャーナリストがAIリスクを報道するための育成と資金提供を行い、関連著者の記事はTIME、The Verge、Scienceなどのメディアに掲載される。
そこでBassは、この一連の関係を非常に伝播力のある表現にまとめた——
一方で「AIがどれほど危険か」の研究に資金を提供し、他方で「AIがどれほど危険か」の伝播に資金を提供し、同時に第三者機関によるAI規制を推進する。
これこそ彼が言うところの「AI Doom Machine（AI終末マシン）」だ。
第四のゴシップ：Bassは、この機械が自ら雪だるま式に大きくなる可能性があると疑っている！！
彼の論理は非常に直接的だ——
Anthropicの評価額が高くなればなるほど、関連する慈善資産の価値が上がり、AI安全エコシステムが受け取る資金が増え、リスク研究と伝播も拡大し続け、最終的にはより強力な規制を推進し、その規制コストに最も耐えられるのは、やはりトップのAI企業である。
ぐるっと回って、再びAnthropicのような巨大企業に戻ってくる。
したがってBassは、ここには絶えず自己強化を続ける可能性のある利益の循環が存在すると考えている。
AIにブレーキを叫ぶ一方で、2兆ドルのIPOへ突き進む
今回の世論を完全に爆発させたもう一つの要因は、Anthropic自身が避けて通れないタイミング——IPOだ。
Darioがちょうど「業界全体、皆ゆっくり行こう！」と呼びかけたその一方で、Anthropicの資本マシンは猛烈な速さで動いている。。。
Reutersの報道によると、Anthropicは記録的なものとなる可能性のあるIPOを準備しており、資金調達規模は最大1000億ドル、評価額は約2兆ドルに上る。
NVIDIAは最大100億ドルの投資を議論中である。
そしてAnthropicは今年5月に650億ドルの資金調達を完了したばかりで、当時の評価額は9650億ドルだった。
3ヶ月後、その評価額は2兆ドルに向かって突き進んでいる。
もちろん、A社から見れば、2兆ドルという話だけではまだ足りないと思っているようだ。
先月には、投資家に向けてさらに大げさな話——30兆ドル——を用意していた。
『ウォール・ストリート・ジャーナル』によると、Anthropicは投資家に対し、同社が将来直面するTAM（つまり潜在的な総市場規模）が30兆ドルを超える可能性があると説明する見込みだ。
TAMはA社が実際に30兆ドルを稼げるという意味ではなく、関連市場の100％のシェアを獲得した場合の年間収入機会を示すものだ。
言い換えれば、ほぼアメリカの年間GDPに迫る規模ということだ。。。
さらにDarioは口では「ペーシング」と言いながら、実際の計算リソースの請求書は全くペーシングの兆しを見せていない。
そしてReutersが報じたところによると、現在までにAnthropicは今後10年間でAmazonクラウドサービスに1000億ドル以上を投じることを約束している。
同時に、約300億ドル規模のMicrosoft Azureとの提携もあり、その背後には大規模なNvidia GPUの計算リソースが存在する。
そのため、今のA社の印象は非常に奇妙だ——
口では：AIの能力が伸びすぎている；実際には：GPUをもっとよこせ。
口では：業界全体で一緒にスピードを落とすべきだ。
実際には：650億ドルの資金調達完了、1000億ドルの計算リソース契約締結、2兆ドルのIPOを推進中。
シリコンバレーは「あなたのためを思って」という言葉に対して、集団で感覚が麻痺しているようだ？？
昔からよく言うように、誰も言行不一致を好まない。
シリコンバレーは「あなたのためを思って」という言葉に対して、集団で感覚が麻痺しているようだ？？
