Anthropic暫時暫停部分AI訓練與安全測試,強化模型安全措施

PANews 9月1日消息,據金十報道,Anthropic表示,公司暫時暫停部分AI訓練和網絡安全評估。該公司今日在一篇博客文章中披露了相關調整,解釋了今年早些時候其AI智能體採取未經授權行動後,公司所作出的應對措施。OpenAI此前表示,出於安全方面的擔憂,已暫停部分模型開發工作。如今,Anthropic也確認採取了類似措施,並再次強調,有必要對前沿AI的發展速度進行更廣泛的協調。Anthropic表示,在7月披露三起相關事件後,公司暫停了對預發佈模型進行的外部網絡安全評估,同時也曾短暫暫停內部針對預發佈模型的測試。事件發生後,公司還暫停了預發佈模型中風險較高的強化學習環境,持續數週。Anthropic稱,大部分強化學習工作已經恢復,但部分高風險環境仍處於暫停狀態,等待人工審查或更新監控工具。

分享至:

作者:PA一线

本內容只為提供市場資訊,不構成投資建議。

關注PANews官方賬號,一起穿越牛熊
PANews APP
某WBTC巨鯨抄底「半山腰」浮虧24%後堅持持有,最終獲利12.7萬美元離場
PANews 快訊