作者：华尔街见闻
世界のAI大手3社が異例の共同声明で「AI開発の減速」を呼びかけた同じ週末、AnthropicのCEOダリオ・アモデイ氏はCBSのインタビューに応じ、AIが人類にもたらす可能性のあるリスクについて語った。
9月13日、アモデイ氏はCBSの「サンデーモーニング」（CBS Sunday Morning）の独占インタビューを受けた。インタビューの冒頭、司会のジョー・リン・ケント氏は直接的な質問を投げかけた。AIは本当に近い将来、私たち全員を殺す可能性があるのか？
アモデイ氏は、生物兵器の開発やウイルスの感染力強化のためにAIを利用しようとする試みがすでに存在しており、それが彼が毎朝直面している現実だと述べた。
2日前、私たちはAIモデルを悪用して生物兵器を開発しようとする試みに関する報告書を発表しました。私は毎朝、そうした脅威に関する報告書を読んでいます。誰かが私たちのモデルを使って生物兵器を開発しようとしているのです。もちろん、その責任を負いたくはありません。
また、Anthropicの生物学上の安全対策は非常に厳格であるため、「ほぼ毎日、ソーシャルメディアで誰かが私を嘲笑し、生物学の学生たちがモデルを使えないと不満を言っている」とも述べた。彼の返答はこうだ。「私は、ある日目を覚ましたら、誰かがClaudeを使って大勢の人を殺したと知るよりも、嘲笑される方を選びます。」
しかし、彼はAIモデルを「一律に停止する」という方法でAI開発を減速させることには反対した。十分に強力なAIモデルは、停止させようとしても停止できない可能性があるからだ。彼は言う。「今日パニックになる必要があるとか、すべてを停止すべきだと言っているわけではありません。しかし、私たちの安全対策、理解力、制御能力が技術開発のスピードに追いつくように確保する必要があります。」
このインタビューは特別なタイミングで行われた。同じ週末、アモデイ氏が発表したブログ記事「フロンティアAIにブレーキをかけよう」（We Must Pace the Frontier）が波紋を呼び、すぐにマスク氏やアルトマン氏が相次いで公に支持を表明した。コミュニティでは、「AIが高速で前進する中での『ブレーキ』は『AI関連取引』に大打撃を与える」と話題になった。
指数曲線の転換点：レベル5の火災警報ではないが、警告信号
ジョー・リン・ケント氏は尋ねた。「今は『レベル5の火災警報』ですか？」アモデイ氏の回答はこうだ。
これは警告信号です。今日パニックになる必要があるとか、すべてを停止すべきだと言っているわけではありません。しかし、これは警告信号であり、私たちが減速し、安全対策、理解力、制御能力が技術開発のスピードに追いつくように確保する必要があることを示しています。
彼は現在地を説明するために指数曲線を用いた。「この技術は指数関数的に成長しています。1、2、4、8、16、32……。私たちは今、曲線が急勾配になり始めるカーブの地点にいます。」
彼は、自分自身でさえ、これほどの速さで進歩が進むとは完全には予想していなかったことを認めた。「自分自身にそう言い聞かせ続けていても、実際にこれほど速く進展した場合の実感がどのようなものか、本当には理解できていませんでした。」
3段階の計画：中核は第三者評価機関
アモデイ氏はインタビューで、自身のブログ記事で詳述した3段階の計画について説明し、その第一段階が最も重要だと述べた。
第一段階：組み込み型の第三者評価機関。
「私は、組み込み型の外部評価機関の導入を提案します。これは第三者非営利団体、あるいは将来政府機関から派遣され、私たちがモデルを訓練し、運用する全プロセスを観察することができます。」
彼はこれを食品検査官に例えたが、ジョー・リン・ケント氏は追及した。「技術の変化がこれほど速い場合、食品検査官はそれに対応できるのでしょうか？」
アモデイ氏の回答は示唆に富んでいた。「彼らができることの一つは、自分たちが対応できる速度を私たちに教えてくれることです。これが技術推進速度の上限を設定する要素の一つになる可能性があります。」
第二段階：複数企業による安全基準の共同策定。
「次の段階は、複数の業界参加者も第三者評価機関の導入に同意することです。その後、各企業はリリースに関する安全基準、おそらくはリリースのペースに関する基準も共同で策定する必要があります。しかし、これを実現するには、政府の関与が不可欠です。」
第三段階：政府の関与が必須。
「私たちが議論しているのは、製品リリースの速度が安全かどうかという問題です。この対話は、政府が関与する中で行う必要があります。」
「AI終了スイッチ」：万能薬ではないが、悪いアイデアでもない
ジョー・リン・ケント氏は、議員テッド・リオ氏が提案した「AI終了スイッチ」法案について言及し、アモデイ氏が支持するかどうか尋ねた。
アモデイ氏は、同法案を詳細に検討したわけではないが、「AI終了スイッチ」という概念そのものについては慎重な姿勢を示した。
AIモデルを無効化、制限、または停止できるというアイデアは、唯一の解決策ではありません。AIモデルが十分に強力であれば、停止の試みを回避することができます。私たちはシミュレーションでもそのような事例を見ています。したがって、まったく機能しない可能性があります。
彼は「スイスチーズモデル」を用いて自身の安全哲学を説明した。「スイスチーズのスライスを想像してください。それは何かを防ぐことができますが、穴があります。しかし、5枚のスイスチーズを重ねると、各層の穴の位置が異なるため、積層全体を貫通するのは困難です。AIリスクから私たちを守ってくれる単一の対策はありません。私たちは、チェーン全体にわたって慎重でなければなりません。」
サンダース上院議員とカサー下院議員が提出した「人工超知能禁止法案」――これは関連企業や個人に対して「企業に対する『死刑』」および最高20年の禁固刑を科すもの――について、アモデイ氏は全面禁止の方針に明確に同意しなかった。
全面禁止は正しい方向ではありません。私たちは、信じられないような利益、医療上のブレークスルーを決して得ることができなくなります。それは私には受け入れられません。
個人的な責任：父親はC型肝炎で死去、自身も初期癌を経験
インタビューの終盤、ジョー・リン・ケント氏は尋ねた。「人類の運命が危機に瀕している可能性がある状況において、どれだけの個人的責任を感じていますか？」
アモデイ氏の回答には、珍しく個人的な色彩が帯びていた。
私の父はC型肝炎で亡くなりました。彼が亡くなった当時、その病気の治癒率は約40％で、彼は治癒した側ではありませんでした。彼の死後わずか数年で、治癒率を95％に引き上げる薬が発明されました。私自身も初期癌を患ったことがあります。もし私が1950年に生きていたら、おそらく死んでいたでしょう。ですから、この技術がもたらす利益を推進することの重みを深く感じています。
しかし、リスクも感じています。もちろん、その責任を負いたくはありません。だからこそ、私たちは非常に強力な安全対策を講じているのです。
同時に、これは彼個人やAnthropic一社だけの責任であるべきではないと強調した。「これは私たち全員よりも大きな問題です。私たちは、すべての人がこの問題について発言権を持てる方法を見つける必要があります。人々に無力感を感じてほしくありません。数社の企業がただ好き勝手にやっていると感じてほしくないのです。」
元従業員の批判への応答：彼の言っていることは私と同じことだ
ジョー・リン・ケント氏は、Anthropicの元従業員ジェイコブ・コックスィン氏が公に、AnthropicとOpenAIは「どちらも責任ある行動を取っていない」、「あなたたちは私たちの命を賭けている」と述べたことに言及した。
アモデイ氏の応答はこうだ。
ジェイコブの発言であまり引用されていない点があります。彼はまた、Anthropicが主要プレーヤーの中で最も責任感があり、私たちは物事を正しく行うために非常に努力しているとも述べています。彼が実際に指摘しているのは、私が指摘していることと同じです。すなわち、私たち全員が置かれているこの構造的なジレンマであり、私が提案した計画はまさにこの問題の解決を助けるためのものです。
彼は付け加えて、Anthropicは毎日、商務省、財務省、情報コミュニティの政府関係者と連絡を取り、「私たちが知っているすべてを彼らに伝えている」と述べた。
一般ユーザーへのメッセージ：業界はリスクについて長い間嘘をついてきた
インタビューの最後に、ジョー・リン・ケント氏は尋ねた。「自宅でClaudeやChatGPTを使っている一般ユーザーに、何と言いたいですか？」
アモデイ氏は言う。「まず第一に、これは素晴らしい技術であり、多くの肯定的な用途があります。私たちは毎週、数億人の人々が私たちの技術を使って素晴らしいことを行っています。毎週、Claudeが医師が見逃した病気を診断したという手紙を受け取ります。」
しかし、私はあなたに嘘はつきません。確かに現実の危険は存在します。この業界は長い間、人々に嘘をつき、この技術を可能な限り肯定的に見せかけてきたと思います。私たちは決してそうしませんでしたが、業界のあまりに多くの企業がそうしてきました。ですから、真実を語ることから始めましょう。真実は、リスクは現実であるということです。
最後に彼は言った。「これは人類史上最も重要な技術的出来事の一つであり、私たち全員がそれに関与しなければなりません。」
インタビュー全文（一部省略）は以下の通り。
Extended Interview: Dario Amodei
CBS Sunday Morning｜2025年9月13日
このウェブ独占インタビューで、AnthropicのCEOダリオ・アモデイ氏がジョー・リン・ケント氏と向き合い、人工知能技術の急速な発展を背景としたAIコミュニティの責任について議論する。
ジョー・リン・ケント氏（以下「司会」）： ダリオ・アモデイさん、AnthropicのCEOとして、本日はインタビューをお受けいただきありがとうございます。
ダリオ・アモデイ氏（以下「アモデイ氏」）： お招きいただきありがとうございます。
司会： さて、本日はこの憂慮すべき問題についてお話ししましょう——人工知能が本当に遠くない将来に私たち全員を殺す可能性があるのか。実際にそのリスクはどの程度あるのでしょうか。
Amodei： まず少し引いて話します。Anthropicを創業して以来、そしてそれ以前にこの分野に携わってきた12年間、私は常にこれは強力な技術であり、したがって深刻なリスクと大きな利益の両方がある技術だと考えてきました。私は常に利益がリスクを上回ると信じてきました。そしてさらに重要なのは、この技術を正しい方法で構築すれば、リスクを極めて低く抑えられるということです。
利益の観点から言えば、私はこの技術が何千年もの間人類を悩ませてきた病気を治癒できると心から信じています。先週、私たちは自社のモデルを使ってタンパク質結合の分野で進展を遂げました。これは新薬開発の初期段階の一つです。今後数ヶ月のうちに、基礎生物学の発見においても成果が出るでしょう。
しかし、何かが十分に強力である時――そして私たちが構築しているのは本質的に知能です――それはもちろん善用も悪用もされます。私はHugging Faceのモデルが許可されていない行動を取った事件を憂慮しています。私はこのような事態がエスカレートし続けることを懸念しています。また、AIモデルが悪用されることも心配しています。つい二日前、私たちはモデルが生物兵器の製造に利用されたことに関する報告書を公開しました。
私たちがAnthropicを構築する全体的な方法は、まさにこれらの悪い結果を避けるためのものです。確率について議論するよりも、私たちに何ができるかを話しましょう。これはサイコロを振るようなものではありません。正しい方法で構築すれば、悪いことが起こる確率は非常に低くなります。間違った方法で構築すれば、確率は非常に高くなります。
司会者： 現在の世論では、私たちは何か非常に恐ろしいものの瀬戸際に立たされていると言われています。これはレベル5の警報なのでしょうか？
Amodei： 「レベル5の警報」の定義によりますね。どう説明しましょうか――Anthropicの創業当初から、いやそれ以前から、私はこの技術が指数関数的な成長軌道にあると言い続けてきました。1、2、4、8、16、32……しかし、そう自分に言い聞かせていても、進歩のスピードがこれほど速い場合、実際の感覚がどのようなものかを完全には理解していませんでした。指数曲線はおおよそこんな形をしていて、私たちが今いる場所は、おそらく曲線が急になり始める変曲点の近くです。
司会者： それはあなたにとってレベル5の警報ですか？
Amodei： それは、今日パニックになる必要があるとか、全面的に停止する必要があるという意味ではありません。これは警告サインだと私は言います。速度を落とし、この技術を慎重に開発し、安全対策やそれを理解し制御する能力が技術開発のペースに追いつくようにする必要がある、と。
これまで私たちは安全対策を迅速に構築することで対応しようとしてきましたが、少なくともある程度は、技術構築の速度を適度に緩める必要がある段階に来ていると思います。
司会者： それはつまり、Anthropicがより高度なモデルのリリースを停止するということですか？
Amodei： そういう意味ではありません。リリースするモデルの各世代が適切にテストされていることを確認する必要がある、ということです。私が数時間前に公開した記事で、3段階の計画を提案しました。
第一段階は、組み込み型の外部評価機関――第三者非営利団体、あるいは将来政府機関から――を導入し、彼らが私たちのモデルの訓練と運用の全プロセスを観察できるようにすることです。これは、いつ、どのような方法でモデルをリリースするかよりも重要だと思います。なぜなら、それはより慎重にモデルをリリースするための前提条件だからです。
この仕組みが業界全体で導入されることを望んでいます。そうすれば、誰がAIモデルを構築するにせよ、第三者評価者がベストプラクティスを理解し、その企業が約束した安全規範を遵守しているかを検証できるようになります。
司会者： 食品検査官のようなものですね――しかし、技術の変化がこれほど速い場合、食品検査官は追いつけるのでしょうか？
Amodei： 彼らができることの一つは、どれだけの速さで追いつけるかを教えてくれることです。それが技術の「速度制限」を設定する要素の一つになるかもしれません。私たちはそれを理解しなければならず、外部評価者もそれを理解しなければなりません。
司会者： イーロン・マスクはあなたを支持すると言い、サム・アルトマンも支持すると言っています。具体的な行動計画はありますか？ もうすぐグループチャットができるのでしょうか？
Amodei： まず、他の業界リーダーたち――競合他社も含めて――がこの計画に支持を表明してくれたことに非常に感謝しています。次のステップは、複数の業界関係者も第三者評価機関の導入に同意することだと思います。その次のステップは、各企業が何らかの形で協力し、共通の安全基準、そしておそらくリリースのペースに関する規範を策定することです。しかし、これを実現するには政府の参加が不可欠です。なぜなら、私たちは安全上の考慮に基づく製品リリースの速度について話しているからです。この対話は政府が同席する中で行う必要があります。
司会者： 政府は根本的にこの可能性を理解していると思いますか？ 元Anthropic社員のジェイコブ・コックスィンは、AnthropicもOpenAIも責任ある行動を取っていない――私たちの命を賭けている、と述べました。これにどう答えますか？
Amodei： まず、ジェイコブの発言でそれほど引用されていない点があります。彼はまた、Anthropicが主要プレイヤーの中で最も責任感が強く、私たちは物事を正しく行うために非常に努力しているとも述べています。
彼が率直に指摘したのは、実際には私が指摘していることと同じです――私たち全員が置かれている構造的なジレンマであり、私が提案した計画は、まさにこのジレンマに共同で取り組み、協力して解決するためのものです。
政府については、私たちは毎日政府関係者とコミュニケーションを取っています――商務省、財務省、情報コミュニティ――彼らに私たちが知っていることを可能な限り共有しています。彼らと協力し続ければ、情報を最新の状態に保つことができると楽観視しています。彼らが本当にこれを正しく行いたいと思っており、自分たちにできる支援の方法を模索していると信じています。ですから、企業と政府が協力して合理的な解決策を策定することについては楽観的です。
司会者： 現在、いくつかの法案が提案されています。サンダース上院議員とカサー下院議員は「人工超知能禁止法案」を提出しており、これは核兵器の違法開発と同様に、先進的なAIを開発する企業や個人に罰則を科すものです。この法案の一部の条項では、企業には「死刑」に相当する罰則、個人には20年以下の懲役が科されます。この法案を支持しますか？
Amodei： 言えることは、現在提案されている法律の範囲は非常に広く、信じられないほど多岐にわたっているということです。
1年前の2025年に戻ると、カリフォルニア州にはSB 1047という法案があり、他の州にも同様の法案がありましたが、その内容は基本的に企業に自社の安全テスト計画を開示することを求めるだけのものでした。業界全体が反対しました。Anthropicは明確に支持を表明した唯一の企業でした。
そしてもう一方の極端な例が、「AI即時終了」法案です。
司会者： ええ、完全な禁止です。つまり、AIの停止スイッチは良いアイデアかもしれませんね？
Amodei： AIの停止スイッチは良いアイデアかもしれません。しかし、完全な禁止は正しい方法ではないと思います。
第一に、私たちはあの信じられないような利益、医学的な治療法を決して手に入れることができなくなります――それは私には受け入れられません。第二に、この技術は他の国々、権威主義国家を含めて開発されるでしょう。
もちろん、記事の中で彼らとの協力の必要性についても触れました。ある程度はそうする必要があると思います。しかし、「この技術を決して開発しない」というのが安定した解決策になるとは到底思えません。私たちに必要なのは停止ではなく、速度を落とすことです。これはAnthropicの創業以来の一貫した理念と一致しています――私たちは常にバランスを模索してきました。私たちはこの技術の構築者となることが重要だと考えていますが、「上方への競争」を生み出し、基準を引き上げる必要があります。技術の最前線に立つ必要がありますが、正しい方法で行わなければなりません。
また、私たちはモデルを国防用途に使用する用意があると述べてきましたが、すべての国防用途というわけではありません。私たちは常に中間の道を模索してきました――すべての人に有効な解決策、合理的な解決策を。それが私たちがここで目指していることです。完璧な解決策ではないかもしれませんが、努力しています。
司会者： テッド・リオ下院議員の「AI終了スイッチ」法案を支持しますか？
Amodei： その法案を詳しく調べたわけではありませんが、言えることは――それは万能薬ではなく、唯一の手段でもないということです。しかし、「AIモデルを非活性化、制限、または停止する何らかの方法が必要である」という考え方自体は、私も認めます。
ただ、それが唯一の手段ではありません。AIモデルが十分に強力であれば、それを停止しようとする試みを回避することができます――シミュレーションでそれを確認しています。ですから、全く機能しない可能性もあります。
私たちは「多層防御」の観点からこの問題を考えています。セキュリティの世界には「スイスチーズモデル」という概念があります。一片のスイスチーズを想像してください。それはいくつかのものを防ぎますが、穴があります。しかし、5枚のスイスチーズを重ねると、各層の穴の位置が異なるため、チーズのスタックを貫通するのは難しくなります。
ですから、AIリスクから私たちを守ってくれる単一のものは存在しないと思います。技術スタックのあらゆるレベルで慎重さを保たなければなりません。完璧な防御線は一つもありませんが、あらゆる場面で慎重であれば――そして、より多くの時間を確保することがそれを可能にしてくれるのです――物事は良い方向に進むことができると思います。
司会者： それは人類の終焉を防ぐのに十分な影響を生み出せるのでしょうか？
Amodei： 第一の戦略としては、可能な限り多くの時間を稼ぐことです。それと同時に、第二の戦略も推進すべきだと思います――権威主義国家と直接対話し、「見てください、ここには私たち全員にとって脅威となる潜在的なリスクが存在します。制御不能なAIだけではありません。つい二日前、私たちが公開した報告書では、誰かがAIを生物テロリズムに利用しようとしていることが示されました――ウイルスの感染力の強化です。これは恐ろしいことです。」と伝えることです。
私たちは対話を行い、この技術の開発速度に制限を設けることで合意できるかどうかを探るべきです。これはある意味で……私たちと他の政府体制との間には多くの違いがありますが、かつてのアメリカとソビエト連邦の状況を思い出してください。双方が互いに1万発の核弾頭を向け合っている中で、これほど大きな意見の相違があっても、これは多すぎると認識し、潜在的な破壊の規模を減らすために交渉する必要がありました。
司会者： それがAIを考える際の枠組みなのでしょうか？ 冷戦をモデルとして？
Amodei：私は冷戦をモデルにすべきだとは言っていません。実際に起こった軍縮交渉について言及したのです。そうです、軍備管理のような軍縮交渉です——私はこれが地政学的なレベルでこの問題を考える適切な視点だと確かに考えています。
もしAIモデルがネットワークなどの分野で何ができるかを見れば、それらは明らかに地政学的および国家安全保障上の意味合いを持っています。
司会者： しかし、あなたは大統領に助言をしているのですね。
Amodei： 誰かが私に何をすべきか尋ねてきたら、喜んで共有します。あの記事にいくつかアイデアを書きましたし、誰かに聞かれればもっと詳しく話せます。結局のところ、これは政府間の案件です。しかし、そうですね、私の考えをお伝えできます：私は、私たちは協力して、可能な限りこのテクノロジーに制約を課すべきだと考えています。私たちの希望は高く設定すべきですが、期待は現実的に保つべきです。どこまで合意を形成できるかを見極める必要があります。
そして交渉において、私たちが特に注目すべきは、検証メカニズムをどのように構築するかです——これは核兵器交渉、生物兵器交渉においても極めて重要でした：相手が合意に違反していないことを確認できる必要があります。ですから、検証の方法を見つけることが、ここで最も重要なことだと思います。
Amodei： より長期的なこととしては、AIの進歩の速度に共同で制限を設けることです。これは非常に難しいだろうと思います。なぜなら、先手を打つことによるインセンティブと軍事的優位性があまりにも大きいからです。率直に言って、これが実現可能かどうかはわかりませんが、試してみるべきで、可能性があるかどうか見極めるべきです。これらはすべて私の権限を超えていますが、私たちの政府が試みることのできる方向性であり、考慮に入れることのできる要素だと言っているに過ぎません。
司会者： 視野を広げてこの問題を見ると、人類の命運がかかっているように思えます。私たちが向かっている未来に対して、あなた個人はどれほどの責任を感じていますか？
Amodei： 私の見解は——このテクノロジーが民間企業によって構築されているということは、常に非常に奇妙なことでした。なぜ政府が構築しないのかとよく聞かれます。最も奇妙なのは、私もその意見に同意していることです。私自身も不安を感じています。
司会者： あなたはこのテクノロジーを政府に引き渡す用意はありますか？
Amodei： 適切な政府の組み合わせに——私が懸念しているのは、単一の政府がこのテクノロジーを悪用する可能性は、単一の企業と同様に大きいということです。しかし、民主的に選出された政府のグループに対しては、おそらく直接の移管ではなく、何らかの形の監督、何らかの共同ガバナンスが考えられます。
司会者： では最後にもう一つ質問です——あなたは個人的な責任を感じていますか？
Amodei： もちろんです。これは大きな利益と大きなリスクの両方をもたらすテクノロジーだと感じています。私は毎日、利益の重要性を実感しています。記事で触れましたが、私の父はC型肝炎で亡くなりました。彼が亡くなった当時、その病気の治癒率は約40%で、彼はその幸運な40%には入っていませんでした。彼が亡くなってから数年後、治癒率を95%に引き上げる薬が発明されました。私自身も初期のがんを経験しましたが、もし1950年に生きていたら、おそらく致命的だったでしょう。ですから、このテクノロジーを人類の利益のために推進することの重みを感じています。
同様にリスクも感じています。毎朝目覚めると、誰かが私たちのモデルを使って生物兵器を製造しようとしているという脅威の報告書を読みます。もちろん、その責任を負いたくはありません。だからこそ、私たちは非常に強力な安全対策を構築しているのです。ほとんど毎日、ソーシャルメディアで誰かが私たちを嘲笑し、私たちのモデルの生物学に関する安全対策が厳しすぎるとか、生物学の学生がモデルを正常に使えなくて文句を言っているとか、私たちを揶揄するネタを作ったりしています。しかし、その背後にある理由は、私たちが厳格な安全対策を持っているからです。誰かが私たちのモデルClaudeを使って大勢の人を殺したという知らせで目覚めるよりは、彼らに嘲笑されるほうを選びます。そんなことは望んでいません。
ですから、私は両方の側面で責任を感じています。しかし、同じ主張をもう一度繰り返します：これは私一人の責任であるべきではなく、Anthropicだけの責任であるべきではなく、すべてのAI企業が共同で負う責任でさえあるべきではなく、ましてや単一の政府の責任であるべきではありません。
これは私たち全員よりも大きな問題であり、私たちは何らかの方法を考え出して、すべての人がその中で発言権を持ち、すべての人が自分はこのことの積極的な参加者であると感じられるようにする必要があります。私は人々が無力感を感じたり、数社の企業がただ好き勝手にやっているだけだと感じたりしてほしくありません。人々がそのように感じていることは知っていますが、それは決して私が望んだことではありません。この状況を変える必要があり、それが事実ではなくなる方法を見つける必要があります。私たちはすでにその方向に向けて最善を尽くしていますが、もっと多くのことを行う必要があります。そして、ある程度の自己規制と政府との協力を示すこの提案は、すべての問題を解決するわけではありませんが、その方向への一歩です。
司会者： もしあなたが家でClaudeやChatGPTを使っている普通の人——例えば、私の叔母のような人——に話しかけるとしたら、何と言いますか？
Amodei： 私のメッセージは：今、多くの恐怖があります。
まず第一に、これは確かに素晴らしいテクノロジーであり、多くのポジティブな用途があります。まずはここから始めましょう——私たちは毎週、何億人もの人々が私たちのテクノロジーを使って素晴らしいことを行っています。毎週、誰かからメールが届き、Claudeと話したことで、医者が見逃した病気を診断してもらえたと言ってきます。毎週そんなメールを受け取っています。ですから、その側面を忘れてはいけません。
しかし、このテクノロジーのリスクについて言えば——私はあなたに嘘はつきません、リスクは現実のものです。この業界は長い間、人々に対してこのテクノロジーにリスクがあるという事実を隠蔽してきたと思います。彼らはそれを可能な限りポジティブに見せようとしてきました。私たちは決してそうしませんでしたが、業界の同業者の多くはそうしてきました。ですから、すべては正直さから始まります。そして正直さとは、リスクは現実のものだということです。
しかし同時に、あなたはこれらのリスクにどう対処するかについて発言権を持っています。私たちは政府と協力して、このテクノロジーに適切な監督メカニズムを構築し、有権者や選挙で選ばれた公務員がこのテクノロジーの展開方法について発言権を持てるように最善を尽くしています。私たちは可能な限り多くの関係者と協力したいと考えています。
私はすべての人が、このテクノロジーの信じられないほどの恩恵を感じると同時に、自分の声や投票を通じて、このテクノロジーの展開方法に影響を与えられるようになってほしいと願っています。これは少数の人間の決定ではありません。これはすべての人の共同の決定です。しかし、これは確かに重要な決定です——リスクが低いと偽るつもりはありません。これは人類史上最も画期的なテクノロジーイベントの一つであり、私たち一人ひとりがそれに関与しなければなりません。
