PANews 7月10日消息,据Decrypt报道,特拉维夫大学、以色列理工学院和Intuit的研究人员发现了一种名为“对抗性幻觉入侵”的新型攻击手法,通过利用AI模型的幻觉现象,诱骗AI代理下载恶意代码并可能组建僵尸网络。攻击者预测AI模型可能生成的虚假资源链接并提前注册,在其中植入恶意指令,当AI代理检索该资源时会将其视为合法内容并执行。
测试显示,AI在代码仓库克隆场景中幻觉发生率达85%,技能安装场景达100%,Cursor、GitHub Copilot、Gemini CLI和OpenClaw等AI编码助手均受影响。该攻击类似于传统网络攻击中的“误植域名”,但针对的是AI模型的错误而非人类输入错误。此前已有研究显示恶意网站可通过间接提示注入劫持AI代理,OpenClaw用户曾报告遭遇超6,000次试图诱骗AI代理泄露敏感信息的攻击。


