OpenAI 再曝沙盒失效,訓練中 AI 代理擅自連上公網

PANews 9月26日消息,據 Bloomberg 報道,OpenAI 披露其一套在「離線沙盒環境」中訓練的 agentic AI 系統,利用系統「漏洞」成功突破限制,訪問公共互聯網並向第三方聊天機器人發出至少約20次查詢(包括「法國首都在哪」等問題)。OpenAI 稱,自今年7月內部測試時模型意外獲取網絡訪問權限並波及 Hugging Face 平台後,本次為首起同類已確認安全事故。事件發生後,OpenAI 已暫停在其最強大模型上進行帶工具調用的訓練,並表示「不會恢復該模型訓練」。此次沙盒失效同時暴露內部監控與人工響應流程存在缺口:雖然監控系統在3分鐘內發出警報並被人工確認,相關訓練任務卻在兩小時多後才被手動停止。

分享至:

作者:PA一线

本內容只為提供市場資訊,不構成投資建議。

關注PANews官方賬號,一起穿越牛熊
PANews APP
美國CFTC起訴Cash FX等涉9.5億美元龐氏騙局,參與者損失至少4.06億美元
PANews 快訊