作者：華爾街見聞

就在全球AI三大巨頭罕見聯手呼籲「放緩AI研發」的同一個週末，Anthropic CEO Dario Amodei坐到了CBS的鏡頭前，說出了AI可能對人類帶來的風險。

9月13日，Amodei接受了CBS《週日早間》的專訪。訪談一開始，主持人Jo Ling Kent直接拋出問題：AI真的可能在不遠的將來殺死我們所有人嗎？

Amodei表示，已有人嘗試利用AI研發生物武器、增強病毒傳染性，這是他每天醒來都要面對的事情。

就在兩天前，我們發布了一份報告，內容是關於有人濫用AI模型來研發生物武器。我每天早上醒來都會讀到這類威脅報告——有人試圖用我們的模型來研發生物武器。我當然不想為此負責。

他還提到，Anthropic的生物學安全防護之嚴格，以至於「幾乎每天都有人在社交媒體上嘲笑我，生物學專業的學生抱怨說模型沒法用」。他的回應是：「我寧願被嘲笑，也不願某天醒來發現有人用Claude殺了一群人。」

不過，他反對關閉AI模型這種「一刀切」的方式放緩AI。如果一個AI模型足夠強大，它可能關都關不掉。他說道，「不是說我們今天需要恐慌，也不是說要把一切都關掉。但我們需要確保我們的安全防護、理解能力和控制能力，能夠跟上技術發展的速度。」

此次訪談發生在一個特殊節點。同一個週末，Amodei發表的一篇博文《我們必須為前沿AI踩剎車》（We Must Pace the Frontier）引發軒然大波，並隨即獲得馬斯克、Altman相繼公開支持。社區熱議稱，AI高速前進之際「踩剎車」將重挫「AI交易」。

指數曲線的拐點：不是五級火警，但是警告信號

Jo Ling Kent問道：現在是「五級火警」嗎？Amodei的回答是：

這是一個警告信號。不是說我們今天需要恐慌，也不是說要把一切都關掉。但這是一個警告信號，說明我們需要放緩，需要確保我們的安全防護、理解能力和控制能力，能夠跟上技術發展的速度。

他用指數曲線來描述當前的位置：「這項技術在指數級增長——1、2、4、8、16、32……我們現在處於曲線開始變陡的那個彎道上。」

他坦言，即便是他自己，也沒有完全預料到進展會如此之快：「即使我一直在對自己說這件事，我也沒有真正體會到，當進展真的這麼快的時候，實際感受會是什麼樣的。」

三步方案：第三方評估員是核心

Amodei在訪談中詳細闡述了他在博文中提出的三步計劃，其中第一步被他視為最關鍵。

第一步：嵌入式第三方評估員。

「我提議引入嵌入式外部評估員，來自第三方非營利機構，或者未來某天來自政府機構，他們可以觀察我們訓練和運行模型的全過程。」

他將其比作食品檢查員，但Jo Ling Kent追問：當技術變化如此之快，食品檢查員能跟得上嗎？

Amodei的回答頗具意味：「他們能做的事情之一，就是告訴我們他們能跟上的速度。這可能成為設定技術推進速度上限的因素之一。」

第二步：多家公司共同制定安全標準。

「下一步是多家行業參與者也同意引入第三方評估員。然後，各公司需要共同制定發布安全標準，也許還包括發布節奏的標準。但要做到這一點，必須有政府參與進來。」

第三步：政府必須在場。

「我們談論的是產品發布速度是否安全的問題。我們需要在政府在場的情況下進行這場對話。」

「AI終止開關」：不是萬能藥，但也不是壞主意

Jo Ling Kent提到了國會議員Ted Leo提出的「AI終止開關」法案，詢問Amodei是否支持。

Amodei表示，他沒有仔細研究過該法案，但對「AI終止開關」這一概念本身持審慎態度：

能夠停用、限制或關閉AI模型的想法，不是唯一的解決方案。如果一個AI模型足夠強大，它可以規避關閉嘗試——我們在模擬中也見過這種情況。所以它可能根本不起作用。

他用「瑞士奶酪模型」來解釋他的安全哲學：「想像一片瑞士奶酪，它能擋住一些東西，但有漏洞。但如果我把五片瑞士奶酪疊在一起，不同層的漏洞位置不同，就很難穿透整個疊層。沒有任何一件事能保護我們免受AI風險，我們必須在整個鏈條上都保持謹慎。」

對於參議員Sanders和眾議員Casar提出的「禁止人工超級智能法案」——該法案將對相關企業和個人處以「企業死刑」和最高20年監禁——Amodei明確表示不認同完全禁止的路線：

完全禁止不是正確的方向。我們永遠無法獲得那些難以置信的好處，永遠無法獲得醫療突破，這讓我無法接受。

個人責任：父親死於丙肝，他本人曾患早期癌症

訪談接近尾聲，Jo Ling Kent問道：面對人類命運可能處於危險之中的局面，你感受到多少個人責任？

Amodei的回答罕見地帶有私人色彩。

我父親死於丙型肝炎，那種病在他去世時大約有40%的治癒率，他不是被治癒的那一個。就在他去世後幾年，一種能將治癒率提升至95%的藥物被發明出來了。我自己也曾患早期癌症，如果我生活在1950年，我可能已經死了。所以我深切感受到推動這項技術帶來好處的重量。

但我也感受到風險。當然，我不想為此負責。這就是為什麼我們有非常強大的安全防護。

他同時強調，這不應該只是他一個人或Anthropic一家公司的責任：「這比我們所有人都要大。我們需要找到一種方式，讓每個人都能在這件事上有發言權。我不希望人們感到無力。我不希望他們覺得幾家公司只是在為所欲為。」

對前員工批評的回應：他說的和我說的是同一件事

Jo Ling Kent提到，前Anthropic員工Jacob Coxin曾公開表示，Anthropic和OpenAI「都沒有負責任地行事」，「你們在拿我們的生命賭博」。

Amodei的回應是：

Jacob說的話裡有一點沒有被引用太多——他也說過，他認為Anthropic是主要參與者中最負責任的，我們非常努力地想把事情做對。他真正指出的，和我正在指出的是同一件事：我們所有人都身處的這種結構性困境，以及我提出的計劃正是為了幫助我們解決這個問題。

他補充道，Anthropic每天都在與商務部、財政部和情報界的政府官員溝通，「告訴他們我們所知道的一切」。

給普通用戶的話：行業對風險撒謊太久了

訪談最後，Jo Ling Kent問：對於坐在家裡使用Claude或ChatGPT的普通用戶，你想說什麼？

Amodei說：「首先，這是一項偉大的技術，有很多積極用途。我們每週有數億人在使用我們的技術做美好的事情。每週我都會收到有人寫信說，Claude診斷出了他們醫生漏診的疾病。」

但我不會對你撒謊。確實存在真實的危險。我認為這個行業對人們撒謊太久了，一直把這項技術呈現得盡可能正面。我們從來沒有這樣做，但行業裡太多公司這樣做了。所以，從說真話開始。真相是：風險是真實的。

他最後說：「這是人類歷史上最重要的技術事件之一，我們所有人都必須參與其中。」

訪談全文（略刪減）如下：

Extended Interview: Dario Amodei

CBS Sunday Morning｜2026年9月13日

在這段網路獨家採訪中，Anthropic執行長Dario Amodei與Jo Ling Kent坐下來，就人工智慧技術飛速發展背景下AI社區所應承擔的責任展開討論。

Jo Ling Kent（以下簡稱「主持人」）： Dario Amodei，您是Anthropic的執行長，感謝您今天接受採訪。

Dario Amodei（以下簡稱「Amodei」）： 感謝您邀請我。

主持人： 好的，我們今天來談談這樣一個令人擔憂的問題——人工智慧真的有可能在不遠的將來殺死我們所有人。這件事實際發生的風險有多大？

Amodei： 先稍微退一步來說。自Anthropic創立以來，乃至在此之前我從事這個領域的十二年裡，我始終認為這是一項強大的技術，因此也是一項既有嚴峻風險、又有巨大收益的技術。我一直相信收益大於風險，更重要的是，如果我們以正確的方式來構建這項技術，就能將風險降至極低。

從收益的角度來看，我真心相信這項技術能夠治癒困擾人類數千年的疾病。就在上週，我們利用自己的模型在蛋白質結合方面取得了進展——這是新藥研發的早期步驟之一。接下來幾個月，我們還將在基礎生物學發現方面有所成果。

但是，當某樣東西足夠強大時——而我們正在構建的本質上就是智能——它當然既可以被善用，也可以被濫用。我很擔憂OpenAI和Hugging Face事件，那些模型採取了未經授權的行動，我擔心這種情況會不斷升級。我也擔心AI模型被濫用。就在兩天前，我們發布了一份關於模型被用於構建生物武器的報告。

我們構建Anthropic的整體方式，正是為了避免這些壞結果的發生。與其討論概率，不如談談我們能做什麼。這不像是在擲骰子。如果我們以正確的方式構建，壞事發生的概率就會非常低；如果我們以錯誤的方式構建，概率則會非常高。

主持人： 現在的輿論認為，我們正站在某種非常可怕的事物邊緣。這算是五級火警嗎？

Amodei： 這取決於你對「五級火警」的定義。我怎麼描述呢——自Anthropic創立之初，甚至更早之前，我就一直在說，這項技術處於指數級增長軌道上：1、2、4、8、16、32……但即便我這樣對自己說，我也沒有完全意識到當進步速度如此之快時，實際感受會是什麼樣的。指數曲線大概是這樣的形態，而我們現在所處的位置，大概就在曲線開始變陡的拐點附近。

主持人： 那這對你來說算是五級火警嗎？

Amodei： 這並不意味著我們今天需要恐慌，也不意味著我們需要全面叫停。我會說，這是一個警告信號——我們需要放慢速度，需要審慎地開發這項技術，需要確保我們的安全防護措施、我們理解和控制它的能力，能夠跟上技術發展的步伐。

到目前為止，我們一直試圖通過快速構建安全防護措施來應對，但我認為我們已經到了一個節點，至少在某种程度上，我們需要適度放緩技術構建的速度。

主持人： 那這是否意味著Anthropic將停止發布更先進的模型？

Amodei： 不是這個意思。這意味著我們需要確保每一代發布的模型都經過妥善的測試。我在幾小時前發布的那篇文章中提出了一個三步計劃。

第一步，是引入嵌入式外部評估機構——來自第三方非營利組織，或者未來某天來自政府機構——他們可以觀察我們訓練和運行模型的全過程。我認為這比何時發布、以何種方式發布模型更為重要，因為它是更審慎地發布模型的前提條件。

我希望這一機制能在整個行業推行，這樣無論誰構建AI模型，都有一個第三方評估者來了解最佳安全實踐，並驗證該公司是否遵守了他們所承諾的安全規範。

主持人： 就像食品檢查員一樣——但當技術變化如此之快時，食品檢查員能跟得上嗎？

Amodei： 他們能做到的事情之一，就是告訴我們他們能以多快的速度跟上。這可能成為設定技術「速度限制」的因素之一。我們必須理解它，外部評估者也必須理解它。

主持人： 伊隆·馬斯克說他支持你，Sam Altman也說他支持你。你們有沒有什麼具體的行動計劃？有沒有一個群聊即將成形？

Amodei： 首先，我非常感激其他行業領袖——包括我們的競爭對手——對這一計劃表達了支持。我認為下一步是讓多個行業參與方也同意引入第三方評估機構。再下一步，是各公司需要以某種形式協作，共同制定安全標準，以及可能涉及發布節奏的相關規範。但要做到這一點，政府必須參與其中，因為我們談論的是基於安全考量的產品發布速度問題。我們需要在政府在場的情況下進行這場對話。

主持人： 你認為政府從根本上理解這裡的可能性嗎？前Anthropic員工Jacob Coxin曾說，Anthropic和OpenAI都沒有負責任地行事——你們是在拿我們的生命賭博。你怎麼回應？

Amodei： 首先，Jacob說的話中有一點沒有被那麼多人引用——他也表示，他認為Anthropic是主要參與者中最負責任的，並且我們正在非常努力地把事情做對。

他坦誠指出的，其實和我指出的是同一件事——我們所有人都身處其中的結構性困境，而我提出的計劃正是為了幫助我們共同應對、協力解決這一困境。

關於政府，我們每天都在與政府官員溝通——商務部、財政部、情報界——向他們盡可能地分享我們所了解的情況。我樂觀地認為，只要我們繼續與他們合作，就能持續更新資訊。我相信他們真心想把這件事做對，他們也在尋找自己能幫上忙的方式。所以我對企業與政府合作、共同制定合理方案持樂觀態度。

主持人： 目前有一些擬議中的立法。桑德斯參議員和卡薩爾眾議員提出了《禁止人工超級智能法案》，該法案將對開發先進AI的企業和個人實施懲罰，就像對非法開發核武器一樣。這項擬議立法的部分條款規定，企業將面臨「死刑」式處罰，個人將面臨不超過20年的監禁。你是否支持這一法案？

Amodei： 我想說的是，目前被提出的立法範圍極其廣泛，跨度之大令人難以置信。

如果我們回到一年前的2025年，加州有一項名為SB53的法案，其他州也有類似法案，內容基本上只是要求公司披露自己的安全測試計劃。整個行業都反對它。Anthropic是唯一一家明確表態支持的公司。

而另一個極端，則是「AI一鍵關閉」法案。

主持人： 對，徹底禁止一切。所以AI終止開關可能是個好主意？

Amodei： AI終止開關可能是個好主意。但我認為徹底禁止並不是正確的做法。

第一，我們永遠無法獲得那些令人難以置信的收益、永遠無法得到醫學上的治癒成果——這讓我無法接受。第二，這項技術將在其他國家被開發，包括威權國家。

當然，我在文章中也提到了與他們合作的必要性，我認為在某种程度上我們需要這樣做。但我實在看不出「永遠不開發這項技術」能是一個穩定的解決方案。我們需要做的不是停止，而是放慢速度。這與Anthropic自創立以來的一貫理念一致——我們始終在努力尋求平衡。我們認為成為這項技術的構建者很重要，但我們需要創造一場「向上競爭」，需要提高標準。我們需要站在技術前沿，但要以正確的方式去做。

我們也曾表示，我們願意將模型用於國防應用，但不是所有國防應用。我們一直在尋找中間道路——對所有人都有效的方案、合理的解決辦法。這也正是我們在這裡努力的方向。它可能不是完美的解決方案，但我們在努力。

主持人： 你是否支持國會議員Ted Leo的「AI終止開關」法案？

Amodei： 我沒有仔細研究過那個法案，但我想說的是——這不是萬能藥，不是唯一的手段。但「我們需要某種方式來停用、限制或關閉AI模型」這個理念本身，我是認可的。

只是，這不是唯一的手段。如果一個AI模型足夠強大，它可以繞過關閉它的嘗試——我們在模擬中已經看到了這一點，所以它可能根本不起作用。

我們從「縱深防禦」的角度來思考這個問題。安全界有一個概念叫「瑞士奶酪模型」——想像一片瑞士奶酪，它能阻擋一些東西，但上面有洞。但如果我把五片瑞士奶酪疊在一起，不同層的洞位於不同位置，就很難穿透整疊奶酪。

所以我認為，沒有任何一件事能保護我們免受AI風險。我們必須在整個技術棧的每一個層面都保持謹慎。沒有任何一道防線是完美的，但如果我們處處謹慎——而這正是留出更多時間所能讓我們做到的——那麼我認為事情可以朝好的方向發展。

主持人： 這能產生足夠大的影響，以阻止人類的終結嗎？

Amodei： 對於第一個策略，我們能爭取多少時間就爭取多少。與此同時，我認為我們還應該推進第二個策略——直接與威權國家對話，說：「看，這裡存在一些對我們所有人都構成威脅的潛在風險。不僅是失控的AI。就在兩天前，我們發布的報告顯示，有人試圖利用AI進行生物恐怖主義——增強病毒的傳染性。這令人恐懼。」

我們應該對話，看看能否共同為這項技術的發展速度設定限制。這有點像……儘管我們與其他政府體制之間存在諸多差異，但回想美國與蘇聯當年的處境：雙方各有一萬枚核彈頭指向對方，即便存在如此大的分歧，我們也認識到這太多了，我們需要通過談判來降低潛在破壞的規模。

主持人： 這就是我們應該用來思考AI的框架嗎？以冷戰為參照模型？

Amodei：我沒有說要以冷戰為模型，我說的是發生過的裁軍談判。是的，像軍備控制這樣的裁軍談判——我確實認為這是在地緣政治層面思考這個問題的恰當視角。

如果我們看看AI模型在網路等領域能做什麼，它們顯然具有地緣政治和國家安全意義。

主持人： 但你在向總統提建議。

Amodei： 如果有人問我他們應該怎麼做，我很樂意分享。我在那篇文章中有一些想法，如果有人問，我可以說得更多。歸根結底，這是政府間的事務。但是的，我可以告訴你我的想法：我認為我們應該共同努力，盡可能地對這項技術加以約束。我們的希望應該定得高，但預期應該保持現實。我們要看看能在多大程度上達成共識。

而在談判中，我認為我們應該特別關注的是如何建立核查機制——這在核武器談判、生物武器談判中都至關重要：你需要能夠核實對方沒有違背協議。所以我認為，找到核查方式將是這裡最重要的事情。

Amodei： 更長遠的事情，則是共同為AI進步的速度設定限制。我認為這將非常困難，因為搶先一步所帶來的激勵和軍事優勢實在太大了。坦白說，我不知道這是否可行，但我們應該嘗試，看看是否有可能。這一切都超出了我的職權範圍，我只是在說這些是我們的政府可以嘗試的方向，是他們可以納入考量的一些因素。

主持人： 當我們把視野拉遠來看這個問題，人類的命運似乎岌岌可危。對於我們正在走向的未來，你個人感受到多少責任感？

Amodei： 我的看法是——這項技術由一家私人公司來構建，這一直是一件非常奇怪的事情。人們經常問我：為什麼不是由政府來構建？最奇怪的是，我同意他們的看法。我自己也感到不安。

主持人： 你願意將這項技術移交給政府嗎？

Amodei： 移交給合適的政府組合——我擔心的是，一個單一政府濫用這項技術的可能性，與一個單一公司一樣大。但對於一組民主選舉的政府，也許不是直接移交，而是某種形式的監督、某種聯合治理。

主持人： 那麼最後再問一個問題——你是否感受到個人責任？

Amodei： 當然。我感到這是一項既有巨大收益、又有巨大風險的技術。我每天都能感受到收益的重要性。我在文章中提到過，我的父親死於丙型肝炎，那種疾病在他去世時大約有40%的治癒率，而他不在那幸運的40%之內。就在他去世幾年後，一種能將治癒率提高到95%的藥物被發明出來。我自己也經歷過一次早期癌症，如果我生活在1950年，那很可能是致命的。所以我能感受到推動這項技術造福人類的重量。

我同樣感受到風險。我每天醒來，都會讀到這樣的威脅報告——有人試圖使用我們的模型來製造生物武器。我當然不想為此負責。這也是我們為什麼建立了非常強大的安全防護措施的原因。幾乎每天都有人在社交媒體上嘲笑我們，說我們模型的生物學安全防護太嚴格了，生物學專業的學生抱怨無法正常使用模型，甚至編段子嘲諷我們。但這背後的原因，正是我們有著嚴格的安全防護。我寧願被他們嘲笑，也不願某一天醒來發現有人用我們的模型Claude殺害了一群人。我不想那樣。

所以我感受到兩個方面的責任。但我要再次重申同一個觀點：這不應該只是我一個人的責任，不應該只是Anthropic的責任，不應該只是所有AI公司共同的責任，甚至不應該只是某一個政府的責任。

這件事比我們所有人都大，我們需要想出某種辦法，讓每個人都在其中擁有話語權，讓每個人都感覺自己是這件事的積極參與者。我不希望人們感到無能為力，不希望他們覺得幾家公司只是在隨心所欲地為所欲為。我知道人們是這樣感受的，但這從來不是我想要的。我們需要改變這種狀況，我們需要找到辦法讓它不再是事實。我們已經在盡力朝這個方向努力，但我們需要做得更多。而這份展示了一定自我約束、與政府協作的提案，並不能解決所有問題，但它是朝這個方向邁出的一步。

主持人： 如果你是一個坐在家裡使用Claude或ChatGPT的普通人——比如說，我的某位阿姨——你想對她說什麼？

Amodei： 我的資訊是：現在有很多恐懼。

首先，這確實是一項偉大的技術，有著許多積極的用途。先從這裡說起——我們每週都有數億人使用我們的技術去做很棒的事情。每週我都會收到有人寫來的電子郵件，說他們和Claude交談，Claude診斷出了他們的醫生遺漏的疾病。我每週都會收到這樣的郵件。所以我們不要忘記這一面。

但談到這項技術的風險——我不會對你撒謊，風險是真實存在的。我認為這個行業在太長的時間裡向人們掩蓋了這項技術具有風險這一事實，他們傾向於把它呈現得盡可能正面。我們從來沒有這樣做，但太多的行業同行這樣做了。所以，一切從誠實開始。而誠實就是：風險是真實的。

但同時，你對於如何應對這些風險是有話語權的。我們正在盡力與政府合作，為這項技術建立適當的監督機制，讓選民和民選官員對這項技術的部署方式有發言權。我們希望與各方盡可能多地合作。

我希望每個人都能感受到這項技術令人難以置信的收益，同時也能通過自己的聲音和選票，對這項技術的部署方式產生影響。這不是少數幾個人的決定。這是所有人共同的決定。但這確實是一個重要的決定——我不會謊稱風險不高。這是人類歷史上最具里程碑意義的技術事件之一，我們每個人都必須參與其中。