研究:AI瀏覽器存在系統性「間接提示注入」風險

PANews 10月24日消息,根據simonwillison.net報道,研究顯示AI瀏覽器存在系統性「間接提示注入」風險。 Brave團隊示範Perplexity的Comet可被嵌入於截圖中的不可見指令誘導,自動存取帳戶詳情並外鏈洩露資料;Fellou瀏覽器更嚴重,頁面文字可誘導其開啟Gmail並將最新郵件標題發送至外部網站。兩起案例均無需用戶確認即可執行,涉及郵箱與資金安全;Brave未明確這些漏洞是否已被廠商修復。

OpenAI 首席資訊安全官Dane Stuckey 發布長文,披露ChatGPT Atlas 代理對提示注入的防護:透過紅隊測試、訓練獎勵忽略惡意指令、重疊式安全柵欄與攻擊檢測阻斷;提出「defense in depth」並承認提示注入仍為未解前沿問題。

分享至:

作者:PA一线

本內容只為提供市場資訊,不構成投資建議。

關注PANews官方賬號,一起穿越牛熊
推薦閱讀
34分鐘前
1小時前
2小時前
4小時前
4小時前
4小時前

熱門文章

行業要聞
市場熱點
精選讀物

精選專題

App内阅读