PANews 7월 10일 소식, Decrypt 보도에 따르면, 텔아비브 대학교, 이스라엘 공과대학교(Technion) 및 Intuit 연구진이 ‘적대적 환각 침입(Adversarial Hallucination Invasion)’이라는 새로운 공격 기법을 발견했다. 이는 AI 모델의 환각 현상을 악용해 AI 에이전트가 악성 코드를 내려받도록 속이고 봇넷을 구축할 가능성까지 열어준다. 공격자는 AI 모델이 생성할 법한 가짜 리소스 링크를 예측해 사전에 등록하고 그 안에 악의적 명령을 심어둔다. AI 에이전트가 해당 리소스를 조회하면 이를 정상 콘텐츠로 간주하고 실행해 버린다.

실험 결과 코드 저장소 클론 시나리오에서는 AI의 환각 발생률이 85%, 스킬 설치 시나리오에서는 100%에 달했으며, Cursor, GitHub Copilot, Gemini CLI, OpenClaw 등 AI 코딩 어시스턴트가 모두 영향을 받았다. 이 공격은 전통적인 사이버 공격의 ‘타이포스쿼팅(typosquatting)’과 유사하지만, 인간의 입력 실수가 아닌 AI 모델의 오류를 노린다는 점이 다르다. 앞서 악성 웹사이트가 간접 프롬프트 주입 공격으로 AI 에이전트를 탈취할 수 있다는 연구가 발표된 바 있으며, OpenClaw 사용자들은 AI 에이전트를 속여 민감 정보를 빼내려는 시도가 6,000건 이상 보고된 바 있다고 전했다.