研究人員發現「幻覺入侵」新型攻擊,AI代理或被利用組建殭屍網絡

PANews 7月10日消息,據Decrypt報導,特拉維夫大學、以色列理工學院和Intuit的研究人員發現了一種名為「對抗性幻覺入侵」的新型攻擊手法,通過利用AI模型的幻覺現象,誘騙AI代理下載惡意代碼並可能組建殭屍網路。攻擊者預測AI模型可能生成的虛假資源鏈接並提前註冊,在其中植入惡意指令,當AI代理檢索該資源時會將其視為合法內容並執行。

測試顯示,AI在代碼倉庫克隆場景中幻覺發生率達85%,技能安裝場景達100%,Cursor、GitHub Copilot、Gemini CLI和OpenClaw等AI編碼助手均受影響。該攻擊類似於傳統網路攻擊中的「誤植域名」,但針對的是AI模型的錯誤而非人類輸入錯誤。此前已有研究顯示惡意網站可通過間接提示注入劫持AI代理,OpenClaw用戶曾報告遭遇超6,000次試圖誘騙AI代理洩露敏感信息的攻擊。

分享至:

作者:PA一线

本內容只為提供市場資訊,不構成投資建議。

關注PANews官方賬號,一起穿越牛熊
PANews APP
安全公司:黑客試圖在Injective npm包中植入後門以竊取錢包密鑰
PANews 快訊