作者：华尔街见闻
就在全球AI三大巨头罕见联手呼吁“放缓AI研发”的同一个周末，Anthropic CEO Dario Amodei坐到了CBS的镜头前，说出了AI可能对人类带来的风险。
9月13日，Amodei接受了CBS《周日早间》的专访。访谈一开始，主持人Jo Ling Kent直接抛出问题：AI真的可能在不远的将来杀死我们所有人吗？
Amodei表示，已有人尝试利用AI研发生物武器、增强病毒传染性，这是他每天醒来都要面对的事情。
就在两天前，我们发布了一份报告，内容是关于有人滥用AI模型来研发生物武器。我每天早上醒来都会读到这类威胁报告——有人试图用我们的模型来研发生物武器。我当然不想为此负责。
他还提到，Anthropic的生物学安全防护之严格，以至于“几乎每天都有人在社交媒体上嘲笑我，生物学专业的学生抱怨说模型没法用”。他的回应是：“我宁愿被嘲笑，也不愿某天醒来发现有人用Claude杀了一群人。”
不过，他反对关闭AI模型这种“一刀切”的方式放缓AI。如果一个AI模型足够强大，它可能关都关不掉。他说道，“不是说我们今天需要恐慌，也不是说要把一切都关掉。但我们需要确保我们的安全防护、理解能力和控制能力，能够跟上技术发展的速度。”
此次访谈发生在一个特殊节点。同一个周末，Amodei发表的一篇博文《我们必须为前沿AI踩刹车》（We Must Pace the Frontier）引发轩然大波，并随即获得马斯克、Altman相继公开支持。社区热议称，AI高速前进之际“踩刹车”将重挫“AI交易”。
指数曲线的拐点：不是五级火警，但是警告信号
Jo Ling Kent问道：现在是“五级火警”吗？Amodei的回答是：
这是一个警告信号。不是说我们今天需要恐慌，也不是说要把一切都关掉。但这是一个警告信号，说明我们需要放缓，需要确保我们的安全防护、理解能力和控制能力，能够跟上技术发展的速度。
他用指数曲线来描述当前的位置：“这项技术在指数级增长——1、2、4、8、16、32……我们现在处于曲线开始变陡的那个弯道上。”
他坦言，即便是他自己，也没有完全预料到进展会如此之快：“即使我一直在对自己说这件事，我也没有真正体会到，当进展真的这么快的时候，实际感受会是什么样的。”
三步方案：第三方评估员是核心
Amodei在访谈中详细阐述了他在博文中提出的三步计划，其中第一步被他视为最关键。
第一步：嵌入式第三方评估员。
“我提议引入嵌入式外部评估员，来自第三方非营利机构，或者未来某天来自政府机构，他们可以观察我们训练和运行模型的全过程。”
他将其比作食品检查员，但Jo Ling Kent追问：当技术变化如此之快，食品检查员能跟得上吗？
Amodei的回答颇具意味：“他们能做的事情之一，就是告诉我们他们能跟上的速度。这可能成为设定技术推进速度上限的因素之一。”
第二步：多家公司共同制定安全标准。
“下一步是多家行业参与者也同意引入第三方评估员。然后，各公司需要共同制定发布安全标准，也许还包括发布节奏的标准。但要做到这一点，必须有政府参与进来。”
第三步：政府必须在场。
“我们谈论的是产品发布速度是否安全的问题。我们需要在政府在场的情况下进行这场对话。”
“AI终止开关”：不是万能药，但也不是坏主意
Jo Ling Kent提到了国会议员Ted Leo提出的“AI终止开关”法案，询问Amodei是否支持。
Amodei表示，他没有仔细研究过该法案，但对“AI终止开关”这一概念本身持审慎态度：
能够停用、限制或关闭AI模型的想法，不是唯一的解决方案。如果一个AI模型足够强大，它可以规避关闭尝试——我们在模拟中也见过这种情况。所以它可能根本不起作用。
他用“瑞士奶酪模型”来解释他的安全哲学：“想象一片瑞士奶酪，它能挡住一些东西，但有漏洞。但如果我把五片瑞士奶酪叠在一起，不同层的漏洞位置不同，就很难穿透整个叠层。没有任何一件事能保护我们免受AI风险，我们必须在整个链条上都保持谨慎。”
对于参议员Sanders和众议员Casar提出的“禁止人工超级智能法案”——该法案将对相关企业和个人处以“企业死刑”和最高20年监禁——Amodei明确表示不认同完全禁止的路线：
完全禁止不是正确的方向。我们永远无法获得那些难以置信的好处，永远无法获得医疗突破，这让我无法接受。
个人责任：父亲死于丙肝，他本人曾患早期癌症
访谈接近尾声，Jo Ling Kent问道：面对人类命运可能处于危险之中的局面，你感受到多少个人责任？
Amodei的回答罕见地带有私人色彩。
我父亲死于丙型肝炎，那种病在他去世时大约有40%的治愈率，他不是被治愈的那一个。就在他去世后几年，一种能将治愈率提升至95%的药物被发明出来了。我自己也曾患早期癌症，如果我生活在1950年，我可能已经死了。所以我深切感受到推动这项技术带来好处的重量。
但我也感受到风险。当然，我不想为此负责。这就是为什么我们有非常强大的安全防护。
他同时强调，这不应该只是他一个人或Anthropic一家公司的责任：“这比我们所有人都要大。我们需要找到一种方式，让每个人都能在这件事上有发言权。我不希望人们感到无力。我不希望他们觉得几家公司只是在为所欲为。”
对前员工批评的回应：他说的和我说的是同一件事
Jo Ling Kent提到，前Anthropic员工Jacob Coxin曾公开表示，Anthropic和OpenAI“都没有负责任地行事”，“你们在拿我们的生命赌博”。
Amodei的回应是：
Jacob说的话里有一点没有被引用太多——他也说过，他认为Anthropic是主要参与者中最负责任的，我们非常努力地想把事情做对。他真正指出的，和我正在指出的是同一件事：我们所有人都身处的这种结构性困境，以及我提出的计划正是为了帮助我们解决这个问题。
他补充道，Anthropic每天都在与商务部、财政部和情报界的政府官员沟通，“告诉他们我们所知道的一切”。
给普通用户的话：行业对风险撒谎太久了
访谈最后，Jo Ling Kent问：对于坐在家里使用Claude或ChatGPT的普通用户，你想说什么？
Amodei说：“首先，这是一项伟大的技术，有很多积极用途。我们每周有数亿人在使用我们的技术做美好的事情。每周我都会收到有人写信说，Claude诊断出了他们医生漏诊的疾病。”
但我不会对你撒谎。确实存在真实的危险。我认为这个行业对人们撒谎太久了，一直把这项技术呈现得尽可能正面。我们从来没有这样做，但行业里太多公司这样做了。所以，从说真话开始。真相是：风险是真实的。
他最后说：“这是人类历史上最重要的技术事件之一，我们所有人都必须参与其中。”
访谈全文（略删减）如下：
Extended Interview: Dario Amodei
CBS Sunday Morning｜2026年9月13日
在这段网络独家采访中，Anthropic首席执行官Dario Amodei与Jo Ling Kent坐下来，就人工智能技术飞速发展背景下AI社区所应承担的责任展开讨论。
Jo Ling Kent（以下简称"主持人"）： Dario Amodei，您是Anthropic的首席执行官，感谢您今天接受采访。
Dario Amodei（以下简称"Amodei"）： 感谢您邀请我。
主持人： 好的，我们今天来谈谈这样一个令人担忧的问题——人工智能真的有可能在不远的将来杀死我们所有人。这件事实际发生的风险有多大？
Amodei： 先稍微退一步来说。自Anthropic创立以来，乃至在此之前我从事这个领域的十二年里，我始终认为这是一项强大的技术，因此也是一项既有严峻风险、又有巨大收益的技术。我一直相信收益大于风险，更重要的是，如果我们以正确的方式来构建这项技术，就能将风险降至极低。
从收益的角度来看，我真心相信这项技术能够治愈困扰人类数千年的疾病。就在上周，我们利用自己的模型在蛋白质结合方面取得了进展——这是新药研发的早期步骤之一。接下来几个月，我们还将在基础生物学发现方面有所成果。
但是，当某样东西足够强大时——而我们正在构建的本质上就是智能——它当然既可以被善用，也可以被滥用。我很担忧OpenAI和Hugging Face事件，那些模型采取了未经授权的行动，我担心这种情况会不断升级。我也担心AI模型被滥用。就在两天前，我们发布了一份关于模型被用于构建生物武器的报告。
我们构建Anthropic的整体方式，正是为了避免这些坏结果的发生。与其讨论概率，不如谈谈我们能做什么。这不像是在掷骰子。如果我们以正确的方式构建，坏事发生的概率就会非常低；如果我们以错误的方式构建，概率则会非常高。
主持人： 现在的舆论认为，我们正站在某种非常可怕的事物边缘。这算是五级警报吗？
Amodei： 这取决于你对"五级警报"的定义。我怎么描述呢——自Anthropic创立之初，甚至更早之前，我就一直在说，这项技术处于指数级增长轨道上：1、2、4、8、16、32……但即便我这样对自己说，我也没有完全意识到当进步速度如此之快时，实际感受会是什么样的。指数曲线大概是这样的形态，而我们现在所处的位置，大概就在曲线开始变陡的拐点附近。
主持人： 那这对你来说算是五级警报吗？
Amodei： 这并不意味着我们今天需要恐慌，也不意味着我们需要全面叫停。我会说，这是一个警示信号——我们需要放慢速度，需要审慎地开发这项技术，需要确保我们的安全防护措施、我们理解和控制它的能力，能够跟上技术发展的步伐。
到目前为止，我们一直试图通过快速构建安全防护措施来应对，但我认为我们已经到了一个节点，至少在某种程度上，我们需要适度放缓技术构建的速度。
主持人： 那这是否意味着Anthropic将停止发布更先进的模型？
Amodei： 不是这个意思。这意味着我们需要确保每一代发布的模型都经过妥善的测试。我在几小时前发布的那篇文章中提出了一个三步计划。
第一步，是引入嵌入式外部评估机构——来自第三方非营利组织，或者未来某天来自政府机构——他们可以观察我们训练和运行模型的全过程。我认为这比何时发布、以何种方式发布模型更为重要，因为它是更审慎地发布模型的前提条件。
我希望这一机制能在整个行业推行，这样无论谁构建AI模型，都有一个第三方评估者来了解最佳安全实践，并验证该公司是否遵守了他们所承诺的安全规范。
主持人： 就像食品检查员一样——但当技术变化如此之快时，食品检查员能跟得上吗？
Amodei： 他们能做到的事情之一，就是告诉我们他们能以多快的速度跟上。这可能成为设定技术"速度限制"的因素之一。我们必须理解它，外部评估者也必须理解它。
主持人： 埃隆·马斯克说他支持你，Sam Altman也说他支持你。你们有没有什么具体的行动计划？有没有一个群聊即将成形？
Amodei： 首先，我非常感激其他行业领袖——包括我们的竞争对手——对这一计划表达了支持。我认为下一步是让多个行业参与方也同意引入第三方评估机构。再下一步，是各公司需要以某种形式协作，共同制定安全标准，以及可能涉及发布节奏的相关规范。但要做到这一点，政府必须参与其中，因为我们谈论的是基于安全考量的产品发布速度问题。我们需要在政府在场的情况下进行这场对话。
主持人： 你认为政府从根本上理解这里的可能性吗？前Anthropic员工Jacob Coxin曾说，Anthropic和OpenAI都没有负责任地行事——你们是在拿我们的生命赌博。你怎么回应？
Amodei： 首先，Jacob说的话中有一点没有被那么多人引用——他也表示，他认为Anthropic是主要参与者中最负责任的，并且我们正在非常努力地把事情做对。
他坦诚指出的，其实和我指出的是同一件事——我们所有人都身处其中的结构性困境，而我提出的计划正是为了帮助我们共同应对、协力解决这一困境。
关于政府，我们每天都在与政府官员沟通——商务部、财政部、情报界——向他们尽可能地分享我们所了解的情况。我乐观地认为，只要我们继续与他们合作，就能持续更新信息。我相信他们真心想把这件事做对，他们也在寻找自己能帮上忙的方式。所以我对企业与政府合作、共同制定合理方案持乐观态度。
主持人： 目前有一些拟议中的立法。桑德斯参议员和卡萨尔众议员提出了《禁止人工超级智能法案》，该法案将对开发先进AI的企业和个人实施惩罚，就像对非法开发核武器一样。这项拟议立法的部分条款规定，企业将面临"死刑"式处罚，个人将面临不超过20年的监禁。你是否支持这一法案？
Amodei： 我想说的是，目前被提出的立法范围极其广泛，跨度之大令人难以置信。
如果我们回到一年前的2025年，加州有一项名为SB53的法案，其他州也有类似法案，内容基本上只是要求公司披露自己的安全测试计划。整个行业都反对它。Anthropic是唯一一家明确表态支持的公司。
而另一个极端，则是"AI一键关闭"法案。
主持人： 对，彻底禁止一切。所以AI终止开关可能是个好主意？
Amodei： AI终止开关可能是个好主意。但我认为彻底禁止并不是正确的做法。
第一，我们永远无法获得那些令人难以置信的收益、永远无法得到医学上的治愈成果——这让我无法接受。第二，这项技术将在其他国家被开发，包括威权国家。
当然，我在文章中也提到了与他们合作的必要性，我认为在某种程度上我们需要这样做。但我实在看不出"永远不开发这项技术"能是一个稳定的解决方案。我们需要做的不是停止，而是放慢速度。这与Anthropic自创立以来的一贯理念一致——我们始终在努力寻求平衡。我们认为成为这项技术的构建者很重要，但我们需要创造一场"向上竞争"，需要提高标准。我们需要站在技术前沿，但要以正确的方式去做。
我们也曾表示，我们愿意将模型用于国防应用，但不是所有国防应用。我们一直在寻找中间道路——对所有人都有效的方案、合理的解决办法。这也正是我们在这里努力的方向。它可能不是完美的解决方案，但我们在努力。
主持人： 你是否支持国会议员Ted Leo的"AI终止开关"法案？
Amodei： 我没有仔细研究过那个法案，但我想说的是——这不是万能药，不是唯一的手段。但"我们需要某种方式来去激活、限制或关闭AI模型"这个理念本身，我是认可的。
只是，这不是唯一的手段。如果一个AI模型足够强大，它可以绕过关闭它的尝试——我们在模拟中已经看到了这一点，所以它可能根本不起作用。
我们从"纵深防御"的角度来思考这个问题。安全界有一个概念叫"瑞士奶酪模型"——想象一片瑞士奶酪，它能阻挡一些东西，但上面有洞。但如果我把五片瑞士奶酪叠在一起，不同层的洞位于不同位置，就很难穿透整叠奶酪。
所以我认为，没有任何一件事能保护我们免受AI风险。我们必须在整个技术栈的每一个层面都保持谨慎。没有任何一道防线是完美的，但如果我们处处谨慎——而这正是留出更多时间所能让我们做到的——那么我认为事情可以朝好的方向发展。
主持人： 这能产生足够大的影响，以阻止人类的终结吗？
Amodei： 对于第一个策略，我们能争取多少时间就争取多少。与此同时，我认为我们还应该推进第二个策略——直接与威权国家对话，说："看，这里存在一些对我们所有人都构成威胁的潜在风险。不仅仅是失控的AI。就在两天前，我们发布的报告显示，有人试图利用AI进行生物恐怖主义——增强病毒的传染性。这令人恐惧。"
我们应该对话，看看能否共同为这项技术的发展速度设定限制。这有点像……尽管我们与其他政府体制之间存在诸多差异，但回想美国与苏联当年的处境：双方各有一万枚核弹头指向对方，即便存在如此大的分歧，我们也认识到这太多了，我们需要通过谈判来降低潜在破坏的规模。
主持人： 这就是我们应该用来思考AI的框架吗？以冷战为参照模型？
Amodei： 我没有说要以冷战为模型，我说的是发生过的裁军谈判。是的，像军备控制这样的裁军谈判——我确实认为这是在地缘政治层面思考这个问题的恰当视角。
如果我们看看AI模型在网络等领域能做什么，它们显然具有地缘政治和国家安全意义。
主持人： 但你在向总统提建议。
Amodei： 如果有人问我他们应该怎么做，我很乐意分享。我在那篇文章中有一些想法，如果有人问，我可以说得更多。归根结底，这是政府间的事务。但是的，我可以告诉你我的想法：我认为我们应该共同努力，尽可能地对这项技术加以约束。我们的希望应该定得高，但预期应该保持现实。我们要看看能在多大程度上达成共识。
而在谈判中，我认为我们应该特别关注的是如何建立核查机制——这在核武器谈判、生物武器谈判中都至关重要：你需要能够核实对方没有违背协议。所以我认为，找到核查方式将是这里最重要的事情。
Amodei： 更长远的事情，则是共同为AI进步的速度设定限制。我认为这将非常困难，因为抢先一步所带来的激励和军事优势实在太大了。坦白说，我不知道这是否可行，但我们应该尝试，看看是否有可能。这一切都超出了我的职权范围，我只是在说这些是我们的政府可以尝试的方向，是他们可以纳入考量的一些因素。
主持人： 当我们把视野拉远来看这个问题，人类的命运似乎岌岌可危。对于我们正在走向的未来，你个人感受到多少责任感？
Amodei： 我的看法是——这项技术由一家私人公司来构建，这一直是件非常奇怪的事情。人们经常问我：为什么不是由政府来构建？最奇怪的是，我同意他们的看法。我自己也感到不安。
主持人： 你愿意将这项技术移交给政府吗？
Amodei： 移交给合适的政府组合——我担心的是，一个单一政府滥用这项技术的可能性，与一个单一公司一样大。但对于一组民主选举的政府，也许不是直接移交，而是某种形式的监督、某种联合治理。
主持人： 那么最后再问一个问题——你是否感受到个人责任？
Amodei： 当然。我感到这是一项既有巨大收益、又有巨大风险的技术。我每天都能感受到收益的重要性。我在文章中提到过，我的父亲死于丙型肝炎，那种疾病在他去世时大约有40%的治愈率，而他不在那幸运的40%之内。就在他去世几年后，一种能将治愈率提高到95%的药物被发明出来。我自己也经历过一次早期癌症，如果我生活在1950年，那很可能是致命的。所以我能感受到推动这项技术造福人类的重量。
我同样感受到风险。我每天醒来，都会读到这样的威胁报告——有人试图使用我们的模型来制造生物武器。我当然不想为此负责。这也是我们为什么建立了非常强大的安全防护措施的原因。几乎每天都有人在社交媒体上嘲笑我们，说我们模型的生物学安全防护太严格了，生物学专业的学生抱怨无法正常使用模型，甚至编段子嘲讽我们。但这背后的原因，正是我们有着严格的安全防护。我宁愿被他们嘲笑，也不愿某一天醒来发现有人用我们的模型Claude杀害了一群人。我不想那样。
所以我感受到两个方面的责任。但我要再次重申同一个观点：这不应该只是我一个人的责任，不应该只是Anthropic的责任，不应该只是所有AI公司共同的责任，甚至不应该只是某一个政府的责任。
这件事比我们所有人都大，我们需要想出某种办法，让每个人都在其中拥有话语权，让每个人都感觉自己是这件事的积极参与者。我不希望人们感到无能为力，不希望他们觉得几家公司只是在随心所欲地为所欲为。我知道人们是这样感受的，但这从来不是我想要的。我们需要改变这种状况，我们需要找到办法让它不再是事实。我们已经在尽力朝这个方向努力，但我们需要做得更多。而这份展示了一定自我约束、与政府协作的提案，并不能解决所有问题，但它是朝这个方向迈出的一步。
主持人： 如果你是一个坐在家里使用Claude或ChatGPT的普通人——比如说，我的某位阿姨——你想对她说什么？
Amodei： 我的信息是：现在有很多恐惧。
首先，这确实是一项伟大的技术，有着许多积极的用途。先从这里说起——我们每周都有数亿人使用我们的技术去做很棒的事情。每周我都会收到有人写来的电子邮件，说他们和Claude交谈，Claude诊断出了他们的医生遗漏的疾病。我每周都会收到这样的邮件。所以我们不要忘记这一面。
但谈到这项技术的风险——我不会对你撒谎，风险是真实存在的。我认为这个行业在太长的时间里向人们掩盖了这项技术具有风险这一事实，他们倾向于把它呈现得尽可能正面。我们从来没有这样做，但太多的行业同行这样做了。所以，一切从诚实开始。而诚实就是：风险是真实的。
但同时，你对于如何应对这些风险是有话语权的。我们正在尽力与政府合作，为这项技术建立适当的监督机制，让选民和民选官员对这项技术的部署方式有发言权。我们希望与各方尽可能多地合作。
我希望每个人都能感受到这项技术令人难以置信的收益，同时也能通过自己的声音和选票，对这项技术的部署方式产生影响。这不是少数几个人的决定。这是所有人共同的决定。但这确实是一个重要的决定——我不会谎称风险不高。这是人类历史上最具里程碑意义的技术事件之一，我们每个人都必须参与其中。
