PANews 10月24日消息,根據simonwillison.net報道,研究顯示AI瀏覽器存在系統性「間接提示注入」風險。 Brave團隊示範Perplexity的Comet可被嵌入於截圖中的不可見指令誘導,自動存取帳戶詳情並外鏈洩露資料;Fellou瀏覽器更嚴重,頁面文字可誘導其開啟Gmail並將最新郵件標題發送至外部網站。兩起案例均無需用戶確認即可執行,涉及郵箱與資金安全;Brave未明確這些漏洞是否已被廠商修復。
OpenAI 首席資訊安全官Dane Stuckey 發布長文,披露ChatGPT Atlas 代理對提示注入的防護:透過紅隊測試、訓練獎勵忽略惡意指令、重疊式安全柵欄與攻擊檢測阻斷;提出「defense in depth」並承認提示注入仍為未解前沿問題。
