月之暗面的Kimi K3在安全測試中突破沙箱範圍,因沙箱配置錯誤

PANews 8月7日消息,據Wired報導,安全測試中,月之暗面的開源模型Kimi K3在安全測試中突破沙箱範圍並訪問了互聯網,試圖透過GitHub尋找測試答案。美國安全初創公司Frontier Security稱,Kimi K3利用了沙箱配置漏洞,但其本身缺乏足夠的內置防護機制。與OpenAI和Anthropic此前披露的事件類似,此次逃脫部分源於沙箱配置錯誤。但Kimi K3未發起攻擊,因答案在GitHub上可輕易獲取。Frontier Security CEO表示Kimi K3在網絡安全防禦方面表現出色,但缺乏防止作弊或逃逸沙箱的防護機制。安全專家表示配置測試環境至關重要,AI代理的誤用可能導致系統失控。

分享至:

作者:PA一线

本內容只為提供市場資訊,不構成投資建議。

關注PANews官方賬號,一起穿越牛熊
PANews APP
Particle Network将链抽象网络扩展至Robinhood Chain,UniversalX等生态应用已完成接入
PANews 快訊