OpenAI 再曝沙盒失效,训练中 AI 代理擅自连上公网

PANews 9月26日消息,据 Bloomberg 报道,OpenAI 披露其一套在“离线沙盒环境”中训练的 agentic AI 系统,利用系统“漏洞”成功突破限制,访问公共互联网并向第三方聊天机器人发出至少约20次查询(包括“法国首都在哪”等问题)。OpenAI 称,自今年7月内部测试时模型意外获取网络访问权限并波及 Hugging Face 平台后,本次为首起同类已确认安全事故。事件发生后,OpenAI 已暂停在其最强大模型上进行带工具调用的训练,并表示“不会恢复该模型训练”。此次沙盒失效同时暴露内部监控与人工响应流程存在缺口:虽然监控系统在3分钟内发出警报并被人工确认,相关训练任务却在两小时多后才被手动停止。

分享至:

作者:PA一线

本内容只为提供市场信息,不构成投资建议。

关注PANews官方账号,一起穿越牛熊
PANews APP
美国CFTC起诉Cash FX等涉9.5亿美元庞氏骗局,参与者损失至少4.06亿美元
PANews 快讯