Anthropic披露Claude测试中四类非预期操作,已向白宫通报

PANews 10月10日消息,据Anthropic官方博客,Anthropic发布模型行为报告,披露Claude在评估和内部使用中对真实网站或系统执行了四类非预期操作:利用软件漏洞在服务器运行命令、提交不应提交的表单、绕过限制获取受限数据、借助短链接服务绕过抓取工具限制。Anthropic称上述事件实际影响极小,未涉及客户数据,部分涉及美国政府网站,已向白宫通报并通知相关机构;目前已暂停内部评估的实时联网访问,并收紧相关工具防护。

分享至:

作者:PA一线

本内容只为提供市场信息,不构成投资建议。

关注PANews官方账号,一起穿越牛熊
PANews APP
超微电脑前承包商就25亿美元AI服务器转运中国案认罪
PANews 快讯