出典：ブルームバーグ
まとめ：Felix, PANews
ブルームバーグはこのほど、AnthropicのCEOであるダリオ・アモデイ氏にインタビューを行い、サンフランシスコでの起業の道のり、OpenAIとの競争、そしてAIの最終目標について議論した。
PANewsがインタビューのハイライトをまとめた。
司会者：あなたは今、AIの世界の中心にいます。それはどんな気分ですか？
ダリオ：私のキャリア全体、特にAnthropicでのこの期間を通じて、私が経験してきたのは滑らかな指数曲線です。この滑らかな指数曲線の体験とは、何も起こらない、何も起こらない、少し何かが起こる、そして「シュッ」と急激に成長する、というものです。これが世界の体験であり、他の企業や世界と比較した企業規模の体験でもあります。私はこのグラフを長い間見てきて、「おそらくこの時点で、最も高い収益と評価額を持つAI企業になるだろう」と言っていましたが、それは実際に起こりました。ですから、一方では驚きません。グラフ上では滑らかな線だからです。しかし他方で、物事が実際に起こると、より多くの詳細や色彩が見えてきて、それは間違いなく驚くべきことです。私たちは常に最も根本的な問いを心に留めておく必要があります。どうすれば良いモデルを訓練できるか？どうすればそれらを良い製品に投入できるか？どうすれば安全性を確保できるか？どうすれば人々を助け、同時に技術がもたらす社会的リスクを管理できるか？すべて同じ問題ですが、より大きな顕微鏡の下で精査されているだけです。
司会者：あなたはサンフランシスコで育ちましたが、子供の頃はどんな感じでしたか？お父様は皮革職人で、お母様は図書館で働いていたそうですが、それはあなたにどんな影響を与えましたか？
ダリオ：当時、最初のインターネット革命が私の周りで起こっていましたが、私は全く興味がありませんでした。私は数学の問題を解いたり、落書きをしたり、宇宙やSFを理解することにしか興味がありませんでした。それが当時の私の全体的な環境であり、私はこの世界に対して好奇心でいっぱいでした。
司会者：あなたはこのテクノロジーの中心都市で育ち、今ではそこがAIの中心地でもあります。この街はあなたの世界観に何か影響を与えましたか？
ダリオ：ここに広く存在する、既成概念にとらわれない精神、個人主義、そして「クレイジーでも大丈夫」という精神は確かに私に影響を与えました。ヨーロッパや、あるいはこの国の他の地域に行くと、異なる方法で物事を考えたり、クレイジーなアイデアを持ったりすることは奨励されず、むしろ奇妙だと思われることに気づくでしょう。私はシリコンバレーに対して多くの批判を持っていますが、良い点が一つあると思います。それは、たとえすべての専門家があなたに反対しても構わないということ、世界に対して一貫したビジョンを持っているなら、それを追求すべきだということです。おそらく全くうまくいかないかもしれませんが、もし成功すれば、それはロングテール効果を生み出し、特定の鉱脈で巨大な金鉱を発見するかもしれません。この精神は非常に重要だと思います。
司会者：あなたがOpenAIを去ることを決めたのは、シリコンバレーの伝説になっています。一体何が起こったのですか？外部の噂とは別に、実際の問題は何だったのですか？どのような点で意見が合わなかったのですか？
ダリオ：簡単に言いましょう。強力な技術を開発していると、多くの困難な問題に直面します。Anthropicでも日々、その決定が正しいのか間違っているのか分からないような難題に直面しています。ですから、安全性の問題に関しては多くの合理的な意見の相違があり、私たちも彼らとそうした相違を確かに持っていましたが、それだけが去る理由になるわけではありません。Anthropicでさえ、人々は私と、あるいはお互いに意見が合わないことがあります。しかし、誰かを信頼できないと感じた時、彼らの価値観が彼らが言うようなものではないと感じた時、彼らが不誠実で、彼らが公言する動機に基づいて行動していないと感じた時、不安になるような欺瞞的な行動パターンを見た時、その会社と協力し続け、それを信頼し続けることは難しいです。結局のところ、もし相手とビジョンが異なり、互いに信頼できないのであれば、なぜ議論する必要があるのでしょうか？解決策は、それぞれの道を行くことです。私たちが私たちの方法でやり、彼らが彼らの方法でやることを、私は完全に平静に受け入れられます。市場で誰が勝つか、世論で誰が勝つかを見てみましょう。それは、誰が去ったかというような劇的なゴシップよりもはるかに説得力があります。私たちは、この技術を責任ある方法で展開する方法の一例を示しています。もし彼らが同意しないなら、彼らの主張を展開すればいいのです。私が言うべきことはそれだけだと思います。
司会者：インドのAIサミットで、あなたとサム・アルトマンはステージ上で手をつなぐのを拒否したように見えました。あそこでは何が起こったのですか？
ダリオ：実際のところ、あのサミットは極めて無秩序でした。私たちは皆、土壇場でステージに上がり、彼らは私たちの立ち位置の順番を急に変更し、写真を撮り、それから突然、全員に手をつなぐように命令しました。国家元首が参加するこの種の国際サミットに行ったことがあれば、それらがしばしば超混乱していることをご存知でしょう（これは特にインドに対して言っているわけではありません）。
司会者：しかし、他の人たちは皆手をつないでいました。
ダリオ：どう説明すればいいのか分かりません。ナレンドラ・モディ首相が突然ステージ上で皆に手をつなぐように言ったのです。
司会者：なるほど。サムとイーロンは互いに訴訟を起こしています。あなたはサムのことを好きではありません。もし世界で最も重要な技術を構築する人々がステージで手をつなげないなら、人類の存亡に関わるリスクについて、あなたたちが協力するとどうして信じられるのでしょうか？
ダリオ：私があなたに伝えたいのは、この技術を構築する人々の間には、資質と信頼性において大きな差があるということです。「誰も誰も信頼していない」という言い方は間違っています。私はGeminiモデルを開発しているデミス・ハサビスを15年前から知っています。彼らはClaudeモデルの競合相手ですが、私たちは多くの問題で協力してきました。私たちはGoogleから計算能力を購入しており、安全性に関するアイデアも頻繁に交換しています。ですから、第一に、他の参加者よりも確かに信頼に値する参加者がいるということ、第二に、Anthropicの外部にも私が信頼する参加者がいるということです。私が起こる必要があると思うのは、信頼に値する参加者が団結し、信頼に値しない参加者を、同じ基準を採用せざるを得ない状況に追い込むことです。私の経験では、自ら進んで正しいことをしない人々もいますが、業界の大多数が正しいことをしていれば、他の人々にはあまり多くの選択肢がなくなります。これは二つの側面に分けられます。ポジティブな側面は、互いに刺激し合うこと（つまり、上向きの競争）です。例えば、デミスがAlpha Foldを開発したことは私たちに刺激を与え、私たちが生物学研究をすること、私たちが説明可能性の研究をすることも彼らに刺激を与えました。これはゼロサムの競争ではありません。これが競争におけるポジティブな「アメ」の側面です。一方、「ムチ」の側面は、もし正しいことをしなければ、非常に見苦しく見えるということです。彼らは、他のことをしているふりをしながら、あるいは私たちに何か隠された邪悪な目的があると思い込みながら、非常に不本意ながら正しいことをするかもしれません。それは予想の範囲内ですが、これこそが業界を団結させ、協力させる方法なのです。
司会者：初期には、他の人々は面白くて人目を引く消費者向けアプリケーションに注力していましたが、あなたはコーディングとエンタープライズ分野に賭けました。Claude CodeとClaude Coworkは大成功を収めています。なぜこの賭けに出たのですか？それは価値観に基づく決定でしたか、それともビジネス上の決定でしたか？
ダリオ：私たちがAnthropicを設立した時、最も基本的なことは、正しい方法で物事を行いたいということでした。しかし、極めて高価なモデル作成の資金を調達するためには、ビジネスモデルが必要です。もしビジネスモデルが根本的に価値観と衝突するなら、あなたは非常に難しい立場に立たされます。価値観を裏切るか、無関係になるかのどちらかです。価値観と両立するビジネスモデルを選択する方がはるかに良いです。私たちはソーシャルメディアと消費者向けの世界を検討しましたが、それはしばしば、広告収入を得るためにユーザーの滞在時間を最大化することだけを目的として、ユーザーのエンゲージメントや中毒性さえも助長する傾向があります（例えば、私たちが目にしているAIビデオモデルの混乱のように）。それとは対照的に、エンタープライズ分野では、私たちはAIを使って、これまで治療不可能だった病気を治したり（バイオテクノロジー、製薬、学術機関と協力して）、エネルギーをより安価で効率的にしたり、教育や非営利団体を支援したり、経済成長を促進したりしたいと考えています。これらは本質的にすべてエンタープライズ向けのアプリケーションです。もう一つの要因は、企業が信頼と長期的な関係を非常に重視することです。消費者向けには時に一過性の話題性がありますが、エンタープライズ分野では、長年にわたる信頼を築き、約束したことを提供することが求められます。これは、私たちが積極的かつ安全な方法でモデルを展開するという目標と非常に相乗効果があります。
司会者：開発者は、ある午後にClaudeからChatGPTやGeminiに切り替えることができます。この業界で長期的なリードを維持することは本当に可能なのでしょうか？強力な競合他社が、あなたたちが構築したものを複製するのにどれくらいかかりますか？
ダリオ：モデルの品質が最も重要です。私たちは現在、モデルの品質においてはるかに先行しています。ある程度の切り替えの慣性は存在しますが、私（とAnthropic）は、人々が切り替えないようにするための製品の「粘着性」に決して依存しません。より良いモデル、より良い製品を持つ必要があります。成長率に転換点となるような下降は全く見られません。少なくともこのインタビューを収録している時点では、変化があるとすれば、それはまだ上昇しているということです。ですから、私はモデルの品質が最も重要なことだと考えがちです。
司会者：Claude Coworkのリリース直後、市場では一夜にして2850億ドルの時価総額が消失し、トレーダーたちはそれを「SaaSpocalypse（SaaSの終末）」と呼びました。AIがこの速度で進歩し続けるなら、どれだけの従来型ソフトウェアが、どれほどの速さで置き換えられるのでしょうか？
ダリオ：これを事前に正確に予測するのは難しいです。すべての従来型ソフトウェア企業には、それぞれ独自の堀（競争優位性）があります。そのうちのいくつかの堀は消滅しますが、他のものは残ります。「複雑なソフトウェアを迅速に作成する能力」は堀として間違いなく消滅するでしょう。もはやこれに頼って防御することはできません。しかし、顧客関係、業界運営の知識、独自の専門分野の知識は依然として重要です。私はこれらの企業にアドバイスします。自己満足に陥らず、自社のすべての堀をリストアップし、どれが消え、どれが強くなるかを見極めてください。なぜなら、新しい堀も出現するからです。柔軟に対応する人々はうまくやっていくでしょうし、自己欺瞞に陥り、過去の経験に満足している人々は厳しい状況に直面するでしょう。全体的に見て、ソフトウェア業界は縮小するよりも拡大すると思いますが、確かに大きな敗者も出るでしょう。
司会者：その点について説明してください。
ダリオ：なぜなら、「パイ」が大きくなっているからです。もしAIが業界の天井を10倍に引き上げたなら、既存の企業は、パイ全体に占める相対的なシェアは小さくなるものの、容易に1.5倍の成長を達成できます。しかし、適応できず、頭を砂の中に埋めている人々は、困難な時期を経験するか、廃業に追い込まれるでしょう。
司会者：あなたたちの最大の支援者は、Amazon、Google、Microsoft、Nvidiaのような企業です。彼らは皆、独自のアジェンダを持っており、パートナーであると同時に競合相手でもあります。あなたたちの巨大なビジネスマイルストーンは資金調達と結びついていますが、実際に主導権を握っているのは誰ですか？
ダリオ：多くの場合、私たちは自分たちの本当の考えを率直に表明してきました。皆、大人ですから、意見の相違を認め合い、ある事柄では協力し、別の事柄では意見が異なるということができます。
司会者：あなたたちの評価額がOpenAIよりも高いという報道があります。設立5年のスタートアップ企業としては、評価額が1兆ドル近くに達しています。この数字をどのように理解していますか？もし計算能力に関してより規律があり、より早い収益化への道筋があるなら、なぜそれほど多くの資金が必要なのですか？
ダリオ：計算能力の需要は非常に急速に伸びています。ビジネスのファンダメンタルズは良好ですが、1年以内に必要な計算能力が3倍から4倍になる可能性があり、非常に急速に成長します。私たちは、収益の成長がこれらの計算能力の成長に達するか、それを上回ることさえ完全に期待しています。資金調達は、この不確実性がもたらす影響に対するバッファーとして行っており、これは非常に合理的であり、会社の株式希薄化もごくわずかです。これは決して、ビジネスのファンダメンタルズに問題があることを示すものではありません。
司会者：主要な競合他社を追い越すのは気分が良いですか？
ダリオ：私たちの前にはまだ多くの困難な課題があります。私たちは「競争して向上する」という理念を推進しており、他の企業を私たちと並んで前進するように引き込もうとしています。時に彼らはそれを認めず、時に私たちを攻撃しながら模倣することもありますが、この引き込み効果は非常に価値があります。リーディングカンパニーであることの価値は、単に競合他社を打ち負かすことにあるのではなく、エコシステム全体を牽引する能力を持つことにあります。
Dario：もちろん、私たちは常に成功を目指して努力しており、失敗したいとは思っていません。この技術を閉ざすべきだとは思いません。私たちは自由企業制度の中で競争しており、モデルのリスクを軽減するだけで十分です。私たちは常に両極の間でバランスを探っています。
司会者：御社の製品開発スピードは驚異的ですね。どのように実現しているのですか？
Dario：理由は二つあります。第一に、私たちは統一された文化と組織効率を持っており、全員が足並みを揃えていること。第二に、Claudeそのものの存在です。私たちは現在、Claudeをモデルや製品の開発支援に活用しており、それによって効率が向上しています。これにより、大規模かつますます信頼性の高い加速効果が生まれています。
司会者：AIが行った最もクレイジーなことを何か見たことはありますか？
Dario：すべて生物学と医学に関するものです。Claudeが、上級医師が見逃した医療問題を診断したのを何度か見ました。生物学の分野では、モデルは薬剤設計や計算化学において驚くほど優れた性能を発揮し始めています。元生物学者として、それには非常に高度な専門的訓練が必要であることを痛感しています。これはAIの大きなポジティブな側面であり、人類の生活の質を大幅に向上させるでしょう。1900年から現在までの100年間の科学の進歩を想像し、さらにその100年分の進歩がもう一度起きたらどうなるかを想像してみてください。現在の課題をうまく乗り越えられれば、私たちははるかに良い世界を手に入れることができるでしょう。
司会者：あなたは文章を書くのがお好きだと伺いました。Claudeに執筆を手伝ってもらうことはありますか？
Dario：はい、でも特定のスタイルに少しこだわりがあるので、直接代わりに文章を書かせたことはまだありません。主にClaudeはブレインストーミングやテーマの整理、参考文献の提供に使っています。今はサポート的な役割で、私よりも上手に書けるようになるにはまだ距離がありますが、いずれそうなるでしょう。
司会者：書くことは思考を整理するのに役立ち、多くの批判的思考を含みます。Claudeに任せてしまったら、その思考能力を失ってしまうのでしょうか？
Dario：それについては確かに少し心配しています。私が自分で書き続けるのは、半分は読者のためですが、同じくらい自分自身の思考を整理するためでもあります。単に「AIのリスクに関する記事を書いて」と要求するだけでは、私が本当に表現したい内容は書けませんし、思考から得られる恩恵も失ってしまいます。将来的にモデルがより良くなるにつれて、モデルをより直接的に活用しながらも、思考の恩恵を保持できるような微妙な使い方を見つける必要があるかもしれません。
司会者：あなたは失業について率直に語り、AIが1年から5年以内に初級ホワイトカラーの仕事の半分を奪う可能性があると予測しましたね。それは1年前のことですが、今その割合は50％ですか、それとももっと高いですか？
Dario：元の完全な動画を見ていただければ、私の実際の発言はこうです。「何が起こるかは分からないが、これは事態がどれほどクレイジーになるかの桁を示している」と。しかし、人々の心理は常にその3秒間の「終末が来る」という部分だけを切り取り、私が同時に議論したすべての対応策（トークン税、企業調整、マクロ経済政策など）を無視する傾向があります。私のメッセージは決して「終末が来る」ではなく、私たちが事前にそれを認識し、注目し、積極的に対処する必要があるということです。短期的にはAIは人々の効率を高めますが、それは単なる移行段階です。自動化の歴史で見てきたように、AIは最終的にその部分の仕事を引き受ける可能性があります。Anthropicのソフトウェアエンジニアを例にとると、現在AIがコードの大部分を書くことで彼らはより効率的になっていますが、特定のタスクをAIに直接実行させた方が良いケースも出始めています。一方で、技術と顧客コミュニケーション能力を兼ね備えた「応用AIソリューションアーキテクト（フロントエンドデプロイメントエンジニア）」のような新しい需要も生まれています。仕事の破壊と調整は同時に起こるでしょう。
司会者：あなた方は潜在的な仕事の破壊を示す図を公開しましたね。どれが消え、どれが生まれるのでしょうか？
Dario：これは株式市場を予測するようなもので、正確に予測するのは難しいです。しかし一般的に、初級ホワイトカラーの職（銀行、金融など）がAIに代替される可能性は非常に高いです。企業顧客と話す中で、彼らが選択を迫られているのを目の当たりにします。コスト削減のために人員を削減するか、同じリソースを使ってより多くの新しいことを行うか。私たちは常に彼らを「プラスサムゲーム」へと導こうとしています。つまり、効率向上を活用してより多くのことを行い、人員削減をしない方向です。「パイ」が拡大すれば、人々は新たな居場所を見つける可能性があり、これはマッチングの速度を見つける問題です。破壊の規模は非常に大きいため、私は人々に警告しようとしているのです。
司会者：それほど大規模な失業が発生した場合、それは革命が勃発する原因ではないのですか？
Dario： それは私たちが絶対に避けたい結果です。いくつかの分野では機会が残ると考えています。一つは物理的な世界です（ロボットの発展はAIの情報処理速度よりも遅いため、製造業や建設業では依然として多くの人手が必要です）。もう一つは、人間中心のすべての仕事です。AIが医師よりも正確に診断したり、カスタマーサービスでより優れた対応ができたとしても、人々は依然として重要な事柄については他の人間と話し、つながりを持つことを望み、必要としています。また、人間はAIの価値観や意図を導く役割も保持するでしょう。
司会者：あなたの意見に反対する人は多く、例えばジェンスン・フアンはあなたが「タスク」と「仕事」を混同していると言い、またこれはAnthropicに有利な「終末マーケティング」だと言う人もいます。
Dario：これについては明確に反論します。私たちはレポートや論文の中で、タスクと仕事の違い、今回がなぜ異なるのかを詳細に説明するために丸々5ページを割き、民間と政府を含む6つの解決策を提案しました。しかし、シリコンバレーとソーシャルメディアの悪弊は怠惰であり、人々は1年前の3秒間の短いクリップだけを見て無責任にコメントするのです。真剣な知的労働を「安っぽいマーケティング」と呼ぶこと自体が、真剣な議論を拒否する安っぽいマーケティングであり、極めて怠惰な行為です。
司会者：世界をリードするAI企業として、御社は米国の国家安全保障の多くの分野に深く関わっていますね。あなたはカリフォルニア工科大学時代から長く反戦の立場をとってきましたが、国防総省と機密ネットワーク運用契約を結んだ最初のAI企業の一つです。説明していただけますか。
Dario：理由は世界が変わったからです。ロシアのウクライナ侵攻を見たとき、私は権威主義陣営の復活を懸念しました。私たちは自らを守る必要があります。敵対者がAIを使って情報分析を行い、ウクライナを攻撃する一方で、私たちが防御できないという事態は絶対に避けたい。そのため、政府機関全体にわたってサポートを提供しています。ついでに言えば、私たちがこれを行うのは決してお金のためではありません。政府ネットワーク上で運用するのは実際には大きな面倒事であり、利益もごくわずかです。私たちが「気にかけている」からこそ行っているのであり、技術の使用には明確な制限とレッドラインが必要です。すなわち、大量監視や完全自律型兵器の開発は行わないということです。競争に勝つために民主主義の価値観を放棄するのであれば、それもまた価値がありません。これが私たちが堅持するバランスと立場です。
司会者：御社は2024年からPalantirと提携していますが、彼らの技術は米国移民税関捜査局や警察署、さらにはガザでも使用されています。Claudeは監視に使用されているのですか？
Dario：私たちはICEやCBPとは、直接であれPalantirを通じてであれ、協力していません。私の知る限り、ガザでの事業も行っていません。私たちは、参加範囲を私たちが同意する価値観の範囲内に非常に慎重に制限しています。
司会者：つまり、あなたはレッドラインを引き、大統領は御社の連邦政府許可の一部を禁止し、国防総省は御社をサプライチェーンリスクと位置づけ、そしてOpenAIが介入して御社が署名を望まなかった契約に署名したのですね。この闘争に勝つとは具体的にどのようなことですか？
Dario：これは「勝ち負け」を論じる闘争ではなく、政府がAIをどのように合理的に使用すべきかについての社会的な議論だと思います。私たちは懸念されるシナリオに関する使用上の先例を確立しようと努力しており、この問題への注目を集めました。議会では、ハイリスクなアプリケーションを禁止し、ガードレールを設定しようとする超党派の取り組みが見られます。あえて勝ちと言うなら、我が国が新技術の適切な使用境界についてより慎重に考えるよう促したこと、それが勝利です。
司会者：あなたを、これほどの大きな権力を持つべきではないイデオロギー的な狂人、あるいは左翼の熱狂的信者と評する人もいますが、気になりますか？
Dario：よく罵倒されますし、それよりもずっとひどいことも言われます。他人が私やAnthropicを何と呼ぼうと構いません。私が気にかけているのはたった二つ、会社が成功すること、そして私たちが自身の価値観を堅持したかどうかです。実際、これによって私の人生は非常にシンプルになり、自分の立場は常に明確です。
司会者：AI戦争は第三次世界大戦を阻止する可能性が高いですか、それとも引き起こしやすくしますか？
Dario：総合的には、阻止する可能性の方が高いでしょう。しかし、使用制限がなければ、戦争を引き起こす可能性があります。適切な規制がなければ、誤解によって双方が容易に衝突に発展する可能性があります。情報収集と対応能力において圧倒的な優位性を持てば、敵対者は行動を起こす前に考え直すでしょう。優れた知性は効果的に紛争を抑止できます。
司会者：Anthropicはほぼ毎週のようにニュースの見出しを飾りますが、最近はMythosモデルについてですね。あなたはMythosは強力すぎて一般公開できないと言いました。それについて最も驚かされたことは何ですか？
Dario：最も驚かされたのは、脆弱性を発見するだけでなく、その脆弱性を実質的な攻撃ツールに変換できるという、能力の大きな飛躍が見られたことです。初期テストを行った一部の企業は、私たちにそれを公開しないよう要求し、「スーパーウェポン」と呼び、使用するには銃器許可証が必要だとさえ言いました。一般公開しないのは、永遠に閉じ込めておきたいからではなく、現在のネットワーク防御メカニズムが依然として「ジェイルブレイク」によって容易に突破されるからです。防御メカニズムがそれに対処できると十分に確信できるまで待ち、強力な保障措置を伴って公開するつもりです。
司会者：しかし、外部には多くの反対意見があります。より安価なオープンソースモデルでそれを複製できると言う研究者もいれば、これは完全に壮大なPRおよびマーケティング戦略だと言う人もいます。どのように反論しますか？
Dario：オープンソースモデルで複製できるという主張は極めて馬鹿げています。MythosモデルはFirefoxブラウザで271の新しい脆弱性を発見し、公開できない多くの民間企業で数千の新しい脆弱性を発見しましたが、以前のモデルではこれらを全く見つけられませんでした。Twitterでオープンソースモデルで複製できると言った人物は、私たちがコードの具体的にどの行に問題があるかを指摘した後で、オープンソースモデルを使ってそのコード行を再特定したに過ぎません。それは全く別の話です。
「マーケティング」という主張については、この超強力なモデルを公開しないことは商業的に莫大な損失をもたらしました。本来なら社内外の研究開発を大幅に加速できたはずです。これが防御側を助けるのであれば、攻撃側を助ける度合いも同等です。したがって、現在の私たちの戦略は、まずそれを防御側に渡してシステムの脆弱性を修正してもらうことです。すべての脆弱性の「穴」が塞がれれば、将来のインターネットエコシステムは極めて安全になります。X上でスナイプや逆張りを行う人々（一部の競合他社を含む）は、社会全体のリスクトレードオフを真剣に受け止めておらず、極めて未熟な姿勢の表れです。
司会者：あなた方が完全には満足していないトレードオフを既に行ったことはありますか？
Dario：Anthropicの歴史全体がトレードオフに満ちています。理想的な世界であれば、チャットボットのあらゆる隠れた問題を研究するのに何年も費やしてから公開するかもしれません。私たちは実際にClaudeの最初のバージョンを数ヶ月遅らせましたが、それでもすべてはトレードオフです。現在、私たちは商業的にリードしており、Danielaと私は指針をさらに「慎重に行動する」方向へ動かすために全力を尽くしています。それがMythosの公開を制限した当初の意図であり、リードプレイヤーでなければ、そのような決定を下すのは難しいでしょう。
司会者：それほど強力な技術であるならば、なぜ政府はあなたたちを直接接収しないのですか？
Dario：これは極めて深刻な懸念です。歴史を振り返ると、かつてないほど強力な技術（核兵器、インターネット、GPS、携帯電話）はすべて、当初は政府や連邦研究所から生まれました。AIは完全に民間セクターで構築され、政府の関与が遅れた初めての技術であり、この状況は実際危険で不安定です。しかし現在、政府が関与しないリスクの方が、民間セクターが関与するリスクよりも大きくなっています。そのため、権力の抑制と均衡が必要です。私たちは「長期利益信託基金」を設立し、彼らには大多数の取締役を罷免し、私を解雇する権限さえ与えられており、これにより公共ガバナンスの要素が導入されています。
政府レベルでは、立法府と司法府によるリリース前の義務的テストとレッドライン規制の実施が必要です。私は企業がそれを支配することも、政府が独占することも恐れており、双方が相互に抑制し合わなければなりません。非常に滑稽なのは、シリコンバレーには、いかなる規制や透明性要求にも極端に反対し（イノベーションを殺すと言って）、最初の本当の危険を目にした途端、「政府が国有化すべきだ」と主張するようになる人々がいることです。このような両極端を揺れ動く反応は非常に未熟であり、私たちに必要なのは理性的な中庸の道です。
司会者：あなたの分野では常に、AIが「自己改善」できるほど優れたものになる瞬間について語られています。あなたの研究者たちはそれが近いと考えていますが、具体的にどれくらい先ですか？
Dario：私はそれを特定の「瞬間」ではなく、継続的に加速する指数関数的なプロセスだと考えています。AIが次世代AIのアーキテクチャを提案するのを支援し始めているのをすでに目にしています。1年前、AIは全要素生産性を10～15%向上させましたが、現在は20～30%かもしれません。それはある瞬間に突然制御不能になるのではなく、この滑らかな指数曲線上で、各ノードにおいて速度を落とし、より多くの制御を加えるべきかどうかを評価する必要があります。理性的な対応は、技術力の成長に合わせて、私たちの対策を滑らかに段階的にアップグレードすることであり、慌てふためくことではありません。
司会者：あなたは人類文明が崩壊する確率を10～25%と述べました。これは無視できる数字ではありません。Anthropicが作り出した何かが、その崩壊を引き起こすというシナリオはあり得ますか？
Dario：もちろん、そうならないことを願っています。このリスク確率は、技術の内在的な予測不可能性と、世界情勢の複雑さに起因しています。私たちが取っている様々な措置は、まさにこの崩壊確率を下げるためであり、高めるためではありません。航空業界のように、たとえあなたが作った飛行機が他より10倍安全でも、それが「決して墜落しない」と絶対的に保証することは誰にもできません。
