AI災難將在一年內發生？Anthropic、OpenAI私下推演最壞情景

AI行业高管正悄然为可能颠覆监管格局的重大事故做准备。据Axios报道，Anthropic、OpenAI等公司正私下推演AI引发严重现实伤害（如大规模网络攻击、基础设施瘫痪）后，美国社会与政界的反应，并担忧未来6至12个月内可能发生重大事件。

核心担忧：失控AI或恶意利用现有模型可能导致金融服务中断、电网或供水系统故障，引发公众强烈反对，使AI企业及高管（如Dario Amodei、Sam Altman）面临更大舆论压力。
提前布局：企业通过红队测试模拟最坏情景，并积极向国会议员普及AI知识，希望在事故发生后影响政策制定方向。部分提案（如紧急关闭开关）已获两党支持，但全面关停AI的现实可行性备受质疑。
监管挑战：AI基础设施与全球经济深度交织，放缓建设可能冲击脆弱经济；同时，政治分歧（尤其民主党内部）可能制约政策推进，但历史危机中的两党合作（如疫情、2008年金融危机）被视为潜在参考。
未来展望：尽管重大事故是否发生尚不确定，但企业已明确转向“预演-影响”策略，试图在监管风暴前占据主动权。开放权重模型的泛滥更凸显了利用AI对抗恶意AI的必要性。

作者：卜淑情，華爾街見聞

人工智能行業正在為一場可能改變監管格局的重大事故做準備。

據Axios最新報道，Anthropic、OpenAI等公司的高管正私下推演，如果AI引發嚴重現實傷害，美國社會和政界將如何反應。

這些推演重點關注大規模網絡攻擊等極端情景，包括金融服務、互聯網連接乃至電力和供水系統中斷。業內人士擔憂，一旦發生由不安全AI導致的重大事故，原本就對這項技術持謹慎態度的公眾可能進一步轉向反對，AI企業及其高管也將面臨更大的輿論壓力。

報道稱，多名AI行業人士認為，未來6至12個月內可能發生重大事件。企業高管因此開始提前與美國國會議員溝通，希望在危機真正發生後，影響美國政府制定的相關法律和政策。

據Axios報道，AI企業正在評估重大事故發生後可能出現的政治和社會反應。相關情景包括失控的AI智能體集群突破內部測試環境的限制，或惡意行為者利用現有模型實施攻擊。

企業擔憂，如果AI首次造成重大現實傷害，原本對這項技術持謹慎態度的公眾可能進一步轉向反對。

Anthropic CEO Dario Amodei、OpenAI CEO Sam Altman等行業領導者，以及被批評不願加強AI監管的美國總統特朗普，都可能承受更大的輿論壓力。

據報道，AI企業正在通過紅隊測試推演最壞情景，同時加快向美國國會議員普及AI相關知識。

企業高管認為，目前推動監管立法的條件有限，但重大事故可能改變政策討論的方向。因此，他們希望提前參與相關討論，影響美國政府屆時可能制定的法律和政策。

部分民主黨人士提出禁止超級智能，或暫停先進AI開發等主張。另一些提案獲得了兩黨支持，甚至得到部分行業人士認同，例如要求先進AI系統設置緊急關閉開關。不過，專家也質疑，全面關閉所有AI系統在實際操作中是否可行。

與此同時，大量開放權重模型已經可以免費下載和使用，增加了風險治理的複雜性。許多網絡安全專業人士認為，利用AI對抗惡意AI是應對這一問題的途徑之一。

即使重大AI事故引發強烈反彈，美國政府在制定應對政策時也可能面臨多重制約。

AI基礎設施建設已與全球經濟深度交織。如果放緩相關建設，可能對本已脆弱的經濟造成衝擊。這意味着，政府在考慮加強AI監管時，還需要面對相關經濟影響。

政治分歧同樣是企業關注的問題。部分AI行業人士預計，民主黨可能在中期選舉後推動更嚴格的AI限制措施，但即使民主黨同時控制眾議院和參議院，黨內分歧仍可能影響政策推進。

Axios援引一名民主黨助手的觀點稱，真正發生危機時，華盛頓兩黨可能暫時擱置分歧。新冠疫情和2008年金融危機期間的合作經歷，被視為可能的參考。

目前，AI重大事故是否會在未來6至12個月內發生仍不確定。可以確定的是，Anthropic、OpenAI等企業已開始推演事故發生後的政策情景，並試圖提前參與相關監管討論。