PANews 6月14日消息,美國總統科技顧問委員會聯合主席David Sacks 在推文中分享了與政府內外人士交流後,對Anthropic 暫停外國公民訪問Claude Fable 5 和Mythos 5 事件的看法。
本週早些時候,Anthropic 公司以「Fable」的商業名稱公開發布了其Mythos 級模型。 「Fable」是帶有防護措施的「Mythos」模型。一家與Anthropic 公司和美國政府都高度信任的合作夥伴,在測試「Fable」時,發現了一種可以破解這些防護措施的方法。管理員要求修復這個漏洞,否則就必須下架該模型,但遭到拒絕。 Anthropic 隨後在部落格中淡化該事件嚴重性,與其一貫標榜的「AI 安全公司」定位形成鮮明反差。為防止未經修復的模型流向不當人員,政府不得已對相關模型實施管制。目前,政府希望Anthropic 盡快修復問題、解除管制並恢復正常發布。


