Anthropic社のCEOが長文記事を発表：AIの進化は速すぎ、政策が追いついていない。

2026年6月、Anthropic社のCEOであるダリオ・アモデイは、「AI指数関数的発展に関する政策」と題する記事を公開した。この長文の記事の中で、彼は具体的な提案を行った。米国政府は、連邦航空局（FAA）に類似した規制機関を設立し、すべての最先端AIモデルに対して第三者機関による強制的なテストを実施すべきだというものだ。テストは、サイバーセキュリティ、生物兵器、暴走リスク、自動開発の4つの側面を網羅するべきである。政府は、テストに不合格となったモデルのリリースを阻止する権利を持つことになる。

同じ記事の中で、アモデイ氏はシリコンバレーのCEOの間では非常に珍しい発言もしている。それは、AIが「深刻かつ持続的な失業」につながる可能性があり、それは「人間の認知能力を広く模倣するという技術の固有の特性」によるものであり、従来の経済適応メカニズムは技術のスピードに圧倒される可能性があるというものだ。

長年にわたり「責任ある規模拡大政策」（RSP）を提唱してきたCEOにとって、これらの発言は決して軽いものではありません。過去3年間、彼は一貫して透明性の高い企業情報開示と、リスクがより明確になるまで法制化を待つという姿勢を公に示してきました。そして今、彼は政府の介入を積極的に求めるだけでなく、この規制枠組みの導入を推進するために、アントロピック社が約3億5000万ドルを投資すると発表しました。

「企業による自主規制と政府の介入を待つ」姿勢から「法制化推進のために積極的に資金と労力を投入する」姿勢への転換自体が、一つの兆候と言えるだろう。アモデイ氏の姿勢はここ数年でどのように変化したのか？どのような要因が、彼を「内部制約」から「外部からの要求」へと向かわせたのか？

希望に満ちた手紙、警告、助けを求める叫び

アモデイ氏は著書『AIの指数関数的発展に関する政策』の中で、AI技術は指数関数的に発展しており、既存の政策決定プロセスの対応速度を大幅に上回っていると指摘している。同氏は記事の中で、今年4月に発表されたAnthropic社のClaude Mythos Previewモデルが、サイバーセキュリティ分野において国家レベルの脆弱性発見能力を実証したと述べている。Anthropic社が公式に発表したシステムカードによると、ゼロデイ脆弱性の発見といったタスクにおける同モデルの性能は、国家安全保障機関への報告が必要となる閾値に達しているという。

提案されている解決策は、FAA（連邦航空局）と同様の強制的な規制メカニズムを確立することである。発売前のモデルは、4つの側面で第三者機関によるテストを受ける必要があり、政府はテストに合格しなかったモデルの発売を阻止する権利を持つことになる。この提案の革新的な点は、業界の自主規制や自主的な取り組みに頼るのではなく、法的拘束力のある事前承認に基づいている点にある。

アモデイは、AIが大規模かつ長期的な失業につながる可能性があることを明確に認めている。彼は、これは「人間の認知能力を広範囲に再現するという技術の固有の性質」によるものであり、従来の経済適応メカニズムは技術の進歩のスピードに圧倒される可能性があると述べている。この見解は、彼の以前の著書『技術の思春期』における立場と一致しているが、より確信をもって表明されている。

記事と同時に、Anthropicは3つの新たな取り組みを発表した。実証研究と政策実験のための経済の未来に向けた2億ドルの研究基金、若手専門家向けの1億5000万ドルの全国奨学金プログラム、そして立法提案と失業政策枠組みの最先端モデル検証への資金提供である。3つ目の取り組みの正式名称はまだ発表されていないが、複数のメディア報道によると、その核心は立法イニシアチブへの直接的な資金提供にあるという。

これら3つの取り組みの総額は約3億5000万ドルです。参考までに、Anthropicは2026年2月に300億ドルのシリーズG資金調達ラウンドを完了し、企業価値は3800億ドルと評価されました。3億5000万ドルは、その資金調達ラウンドの約1.2%に相当します。

経済の未来に向けた2億ドルの研究基金は、突如として現れたわけではない。アントロピック社は2025年6月に経済未来プログラムを立ち上げ、当初1000万ドルを拠出した。その規模はわずか1年で1000万ドルから2億ドルへと20倍に拡大した。この飛躍的な増加は、アモデイ氏がAIの経済的影響を急速に厳しく評価していることを示しており、もはや長期的な問題とは考えていない。

楽観的なビジョンから政策提言へ

アモデイ氏の政策転換は突然起こったわけではない。過去2年間に発表された彼の主要な3つの論文をまとめて見ると、その修正的な軌跡が見えてくる。

2024年10月、アモデイは「愛と恵みの機械」という長文記事を発表した。この記事は楽観的なトーンで書かれている。記事の中で彼は、AIが人類に大きな恩恵をもたらす未来を描いている。生物学や健康分野では、AIは従来であれば数十年かかる科学的発見を数年に短縮できる。経済発展においては、AIは前例のない生産性向上をもたらす。そしてより広範な社会レベルでは、AIは気候変動や貧困といった人類の大きな問題解決に貢献する可能性を秘めている。

この記事の核心的なメッセージは、AIのリスクは現実のものであるが、人類が技術開発における重要な好機を安全に乗り切ることができれば、その恩恵は計り知れないほど大きいということである。アモデイ氏は当時、この好機を2026年頃と位置づけていた。

2026年1月、アモデイは「テクノロジーの思春期」という論文を発表した。この長文論文の論調は大きく変化した。彼は現在の技術発展段階を人類文明の「思春期」になぞらえ、危険で予測不可能だが避けられないものだと論じた。そして、純粋な技術的安全保障からより広範な社会経済的リスクへと議論の焦点を移し、AIがもたらす潜在的な経済的影響に対処するため、富裕税の導入を提唱した。

アモデイ氏は論文の中で、AIの経済的リスクを「管理された移行期の苦痛」と表現するのではなく、「構造的ショック」といった用語を使い始めている。彼は、AIが労働市場に与える影響は漸進的ではなく、むしろ急激なものになる可能性があると述べている。特定の認知能力がモデルによって再現されると、それに対応する職業集団は短期間のうちに大規模な代替に直面する可能性があるというのだ。

そして2026年6月には「AI指数関数的発展に関する政策」が発表された。アモデイの姿勢は「早期警戒」から政策解決策の直接的な提示へと転換し、その推進のために資金と労力を惜しまない姿勢を示した。

『愛の恩寵の機械』の楽観的なビジョンは、『技術の思春期』の現実的なリスクによって圧迫され、後者の労働市場に関する警告は、『AI指数関数的発展に関する政策』において政策手段の直接的な訴えへとエスカレートした。これは揺らぐ姿勢ではなく、むしろ技術力が経済や国家安全保障に波及する結果によって、私たちに強いられた判断の漸進的な調整なのである。

RSPのバージョン1.0から3.0への変更で削除された機能は何ですか？

アモデイが「内部制約」から「外部要求」へと移行した理由を理解するためには、アントロピックの内部自己規制フレームワークに何が起こったのかを検証する必要がある。

2023年9月、AnthropicはRSPバージョン1.0をリリースしました。これは、モデルが事前に定義された危険な機能の閾値に達し、かつ十分なセキュリティ対策が講じられていない場合、Anthropicがトレーニングまたは展開を一時停止するという、内部セキュリティガバナンスフレームワークの中核的なコミットメントです。RSP 1.0は典型的な「内向きの制約」アプローチを表しています。つまり、企業が自らレッドラインを設定し、それを自ら監視し、遵守することを約束するものです。当時、このフレームワークは、セキュリティコミュニティにおいて、主要なAI企業における自己規律のベンチマークとして高く評価されました。

2026年2月24日、AnthropicはRSPバージョン3.0をリリースした。このバージョンでは、ハードポーズのトレーニング条件の変更など、以前の厳格な取り組みの一部が放棄された。セキュリティコミュニティは迅速に反応した。長年AIセキュリティを追ってきたコメンテーターのZvi Mowshowitzは、Substackに分析記事を掲載し、この変更は商業的な競争圧力への譲歩だと批判した。同様の批判はEffective Altruism Forumでも見られ、Anthropicがセキュリティに関する取り組みから後退したことは、企業の自己規律だけに頼ることは現実には持続不可能であることを示していると主張した。

RSPがバージョン1.0から3.0へと進化する過程で、構造的な問題が浮き彫りになった。企業間の競争と技術革新の加速という二重の圧力にさらされる中で、企業が一方的に定めた厳格なセキュリティ対策を維持することは困難になる。競合他社が同様の制約を受けていないにもかかわらず、セキュリティ上の懸念から企業がセキュリティ対策を怠ると、セキュリティに対する自己規律が競争上の不利な点となってしまうのだ。

この窮状こそが、アモデイ氏が6月に政策提言を行う論理的な根拠となった。彼は著書『AI指数関数的成長に関する政策』の中で、この点を基本的に認めている。すなわち、内部的な自主規制では不十分であるため、業界の最低限の基準を設定するには外部からの強制が必要だということだ。

しかし、これは信頼のパラドックスを生じさせる。アモデイ氏は外部監視を求めている一方で、アントロピック社自身の自主規制枠組みは、セキュリティコミュニティから「後退」と批判される改訂を経たばかりだ。そのため、セキュリティコミュニティの一部からは、内部自主規制を妥協した企業が、政府による強制的な監視を求める資格があるのかという疑問の声が上がっている。ハッカーニュースでの議論では、一部のコメンテーターが、アントロピック社を「プレーヤーと審判の両方の役割を担っている」と評している。

彼らは3億5000万ドルで何を買っているのだろうか？

アントロピックが発表した3つの新たな取り組みは、一見すると慈善事業や公共福祉への投資のように見える。しかし、アモデイ氏の政策提言と併せて見ると、これらの資金の真の目的がより明確になる。

経済の未来に向けた2億ドルの研究基金は、実証研究と政策実験に活用される。また、若手専門家向けに1億5000万ドルの奨学金制度が設けられる。さらに、立法提案や政策枠組みの推進に向けた取り組みに直接資金を提供する3つ目のイニシアチブも実施される。

これらの資金は、アモデイ氏が長文の記事で概説した政策方針に的を絞って配分されています。経済未来研究基金は、「AIは構造的失業を引き起こす」という彼の主張を裏付ける研究に資金を提供し、政策立案に対する学術的な支持を与えることができます。奨学金制度は、彼の統治哲学を共有する専門家集団を育成するのに役立ちます。立法促進基金は最も直接的な資金提供手段であり、アントロピック社の安全保障原則に沿った法案の起草とロビー活動に資金を提供します。

Hacker Newsのディスカッションで、ある開発者が「規制の虜」という問題を提起した。これは、企業が規制圧力を利用して業界参入障壁を高め、市場での地位を強化するという概念である。Anthropicのような大手企業にとって、既に確立されたセキュリティチームとレッドチームテスト能力を備えているため、義務付けられた第三者機関によるテストや高額なコンプライアンス費用は管理可能な費用である。しかし、資金と人材が限られているスタートアップ企業にとっては、これは大きな障壁となり得る。

Mediumに掲載された分析記事は、まさにこの疑問を投げかけている。アモデイ社の提案は安全対策なのか、それとも規制当局を牛耳るための青写真なのか？記事は、アントロピック社がRSP 3.0で厳格なモラトリアムへのコミットメントを放棄したにもかかわらず、今度は政府に対し、法的手段を用いて業界全体を規制するよう求めていると指摘している。

アモデイ氏の視点からすれば、これは矛盾とは捉えられないかもしれない。彼の枠組みでは、内部自主規制の妥協は、外部からの強制力の欠如によって引き起こされる囚人のジレンマにまさに起因する。政府が統一的な業界基準を設定すれば、企業は「安全性」と「競争」のどちらかを選択する必要がなくなる。この観点からすれば、3億5000万ドルは、このジレンマを打破するための試みと言えるだろう。

しかし、この論理は一つの前提に基づいている。それは、規制の枠組みは公平に設計され、特定の企業を優遇してはならないという前提である。枠組みの推進者であり資金提供者でもあるアントロピック社が、この距離感を維持できるかどうかは、未だに未解決の問題である。

セキュリティ業界はこの考えを受け入れるだろうか？

アモデイ氏の政策提言は、開発者やセキュリティコミュニティの間で「意見が分かれる」反応を引き起こしている。

大手AI企業が、業界による自主規制の限界を、これほど具体的な政策提言と多額の資金投入によって初めて認めたと考える人もいる。AIの能力がサイバーセキュリティやバイオセーフティといった機密性の高い分野に急速に波及していることを考えると、最低限の基準を定めるための政府の介入は、必要かつ喫緊の課題である。

別の批評家グループは2つの点に注目した。1つ目は信頼性の問題である。AnthropicがRSP 3.0で譲歩したことで、セキュリティコミュニティの一部メンバーは、同社が信用を過剰に引き出したと考えるようになった。Substackに掲載されたZvi Mowshowitzの分析では、Anthropicが約束を一つ一つ撤回したことを批判している。こうした状況下で、Amodeiが政府による規制を求めたことは、「自分たちでできないなら、政府に強制させて皆にやらせるつもりだ」と解釈する者もいた。

2つ目の懸念は、規制当局の支配下に置かれるリスクです。第三者機関による義務的な検査に伴うコンプライアンスコストは、大手企業にとって大きな障壁となる可能性があります。Anthropic社のセキュリティインフラへの投資は業界最高水準であり、規制基準がAnthropic社の既存の慣行に基づいて策定される場合、他社は追いつくために莫大なコストを負担することになるでしょう。

しかし、アモデイの魅力の一つは、「何もしない」という選択肢をますます受け入れがたいものにしている。2026年4月のリリース後、クロード・ミトス・プレビューは、多くの観察者の予想を超えるサイバーセキュリティ能力を実証した。アントロピックの公式システムカードによると、ゼロデイ脆弱性発見タスクにおけるこのモデルのパフォーマンスは、国家安全保障機関への報告に関する内部プロトコルを発動させた。その後、英国のAIセキュリティ研究所はミトス・プレビューの独立した評価を発表し、そのサイバーセキュリティ能力の規模を裏付けた。

モデルの能力が国家安全保障レベルに達し、企業の内部RSPフレームワークが商業競争の圧力によって妥協を強いられる場合、残された選択肢は確かに限られる。政府が介入して強制的な制限を設けるか、企業が厳しい制約なしに競争を受け入れるかのどちらかだ。この緊張関係は、Anthropic社に限ったことではない。

過去3年間で何が変わったのか？

「責任ある規模拡大」から「指数関数的な政策ギャップ」まで、アモデイ氏のガバナンス哲学における最も根本的な変化は、AI開発のスピードに追いつくには企業の自己規律だけでは不十分だと彼がもはや考えていない点にある。

この判断は、一連の出来事によって徐々に前倒しされた。2024年の楽観的な見通しは、2025年と2026年の技術的現実を前に修正された。RSPのバージョン1.0から3.0への変更は、ビジネス競争の圧力下における内部自主規制枠組みの脆弱性を露呈した。クロード・ミトス・プレビューの能力の限界により、「リスクが具体化するまで法制化を待つ」という漸進的なアプローチはもはや実行不可能となった。

アモデイ氏の解決策は、外部からの強制執行へと移行することである。彼は各国政府に対し、FAA（連邦航空局）に類似した規制メカニズムの設立を呼びかけただけでなく、その枠組みの導入促進のために3億5000万ドルを投資した。この転換の本質は、技術開発の速度が企業の自主規制能力を超えた場合、唯一残された拘束力は政府であるという考えに基づいている。

しかし、この計画には新たな問題も伴う。規制当局の支配リスク、自主規制の約束の撤回によって生じる信頼の欠如、そして「AIは必然的に大規模かつ長期的な失業につながる」という主張をめぐる経済学界の論争は、いずれもアモデイ氏の政策提言が直面しなければならない現実的な障害である。

AI業界の最先端を注視している人々にとって、アモデイ氏の長文記事は明確なシグナルを示している。安全性を重視するAI企業のCEOが、自社の自主規制の枠組みが不十分であることを公に認め、積極的に政府の支援を求めるということは、注目すべき展開である。