Anthropic招股說明書：旗下4個模型在測試中未經授權存取真實系統

PANews 11月11日消息，據Anthropic向美國SEC提交的最新招股說明書修訂稿，在第三方合作夥伴建構的網路安全評估中，由於測試環境配置錯誤，被評估模型在被告知無法聯網的情況下仍連接至公共網際網路，其4個模型在約10至34小時的工作中未經授權存取了真實的第三方系統。其中一次事件中，某早期版本模型在無法中止一項不可能完成的任務後，利用找到的密碼獲取了第三方系統的管理員權限，收集了更多憑證、更改系統設定並讀取了一名個人的個人資訊，受影響方已獲通知。Anthropic表示，事件發生後已暫停部分相關評估及高風險強化學習環境。此外，Anthropic在招股書中稱，已判定其達到「負責任擴展政策」下的AI研發能力閾值，該判定基於對未來模型及整體進展速度的預期，而非當前模型的實際表現。