David Sacks:Anthropic公司Fable模型被發現安全漏洞後未修復,政府不得已管制

PANews 6月14日消息,美國總統科技顧問委員會聯合主席David Sacks 在推文中分享了與政府內外人士交流後,對Anthropic 暫停外國公民訪問Claude Fable 5 和Mythos 5 事件的看法。

本週早些時候,Anthropic 公司以「Fable」的商業名稱公開發布了其Mythos 級模型。 「Fable」是帶有防護措施的「Mythos」模型。一家與Anthropic 公司和美國政府都高度信任的合作夥伴,在測試「Fable」時,發現了一種可以破解這些防護措施的方法。管理員要求修復這個漏洞,否則就必須下架該模型,但遭到拒絕。 Anthropic 隨後在部落格中淡化該事件嚴重性,與其一貫標榜的「AI 安全公司」定位形成鮮明反差。為防止未經修復的模型流向不當人員,政府不得已對相關模型實施管制。目前,政府希望Anthropic 盡快修復問題、解除管制並恢復正常發布。

分享至:

作者:PA一线

本內容只為提供市場資訊,不構成投資建議。

關注PANews官方賬號,一起穿越牛熊
PANews APP
Eleanor Terrett:《CLARITY Act》7月4日前通過希望渺茫
PANews 快訊