저자: 구글 위협 인텔리전스 그룹(GTIG)
편역: 深潮 TechFlow
深潮导读: 사이버 공방의 공수 균형이 생성형 AI의 자율화로 인해 완전히 뒤집히고 있다. 구글 위협 인텔리전스 그룹(GTIG)이 발표한 최신 글로벌 추적 보고서는 해커들이 이미 'AI에 단순히 질문을 던지는' 초기 단계를 공식적으로 넘어섰으며, 멀티 에이전트 협업으로 구동되는 엔드투엔드 완전 자동화 사이버 무기로 전면 업그레이드했다고 지적한다.
가장 최근 공개된 실제 침해 사례에서 공격자들은 오픈소스 멀티 에이전트 프레임워크 기반의 자동화된 취약점 발굴 파이프라인을 배치해, 공식적으로 막 배포된 PHP 보안 패치를 곧바로 무기화된 공격 코드로 전환했으며, 극히 짧은 시간 안에 프랑스 정부 및 상업 웹사이트를 대상으로 자동화 침투와 데이터 탈취를 감행했다.
이 글은 멀티 에이전트 침투 프레임워크의 진화 타임라인과 해커가 클라우드 대형 모델 연산 자원을 불법 재판매하는(LLMJacking) 생태계, 그리고 일선 방어자들이 에이전트 시대에 자동화 보안 방어선을 어떻게 재구축하는지를 전면적으로 되짚는다.
요약: 공격자들이 공식적으로 자율 멀티 에이전트 시대에 진입
해커 조직들이 기초적인 프롬프트 질문에서 벗어나 완전 자율적인 에이전트(Agent) 워크플로 배치로 전환하는 속도가 빨라지면서, 생성형 인공지능(GenAI)의 실제 사이버 공격에서의 전술적 활용은 중대한 변곡점을 맞았다.
GTIG는 Mandiant 일선 사고 대응 실무와 글로벌 원격측정(텔레메트리) 데이터를 바탕으로 지난 한 분기 동안의 글로벌 AI 위협 5대 핵심 진화 트렌드를 정리했다.
-
자율 워크플로와 멀티 에이전트 프레임워크로의 전환: 공격자들은 대형 언어 모델(LLM)을 생산성 보조 도구로만 쓰는 데 그치지 않고, 완전 자율적인 실행 에이전트를 통합해 여러 모델을 동시에 조율하며 정찰, 코드 감사, 취약점 익스플로잇을 수행하기 시작했다.
-
자동화된 취약점 발굴과 패치 리버스 엔지니어링: 해커들은 대형 모델을 이용해 최신 보안 패치를 체계적으로 분석하고, 몇 시간 안에 취약점 트리거 로직을 역으로 도출해 방어 측의 패치 윈도(패치 적용 유예 기간)를 완전히 종식시켰다.
-
연산 자원 탈취와 AI 자격증명 현금화(LLMJacking): 이익에 눈먼 사이버 범죄자들은 기업 클라우드 환경을 대거 침해해 고가치 LLM API 키와 연산 할당량을 탈취하고, 다크웹에서 정가의 30% 수준으로 '모델 세탁 믹서'를 구축해 되팔아 현금화한다.
-
허위 인지전(IO)의 엔드투엔드 자동화: 국가 배후 해커와 상업적 여론전 계약업체들은 대형 모델을 여론 조작 매트릭스에 깊이 이식해 가짜 계정의 완전 자동 등록, 사실적인 일상 사진 생성, 1000명에게 1000가지 맞춤형 표적 정보 살포를 실현했다.
-
암호화폐 및 첨단 기술 기업을 겨냥한 표적 침투: 북한 및 특정 배후 해커들은 AI 이력서와 음성 위조 도구를 광범위하게 남용해 구직자로 위장하고, 기술 면접에서 실시간으로 답변을 생성하며, 입사 후에는 심층적인 공급망 오염을 실행한다.
사이버 침해에서의 멀티 에이전트 프레임워크
과거 추적 연구에서 GTIG가 기록한 것은 대부분 해커들이 소규모로 LLM을 실험한 산발적 시도였다. 그러나 현재 공격자들이 자율 멀티 에이전트 프레임워크를 엔지니어링 수준으로 도입한 것은 사이버전이 본격적으로 규모화된 자율 협업 단계로 나아갔음을 뜻한다.
이 공격 프레임워크의 핵심 패러다임은 고전적인 OODA(관찰, 판단, 결정, 행동) 작전 순환을 도입하는 것으로, 마스터 에이전트가 임무를 할당하면 전문화된 하위 에이전트들이 네트워크 토폴로지 스니핑, 지문 식별, 스크립트 작성, 횡적 이동을 동시에 수행한다.
그림: 멀티 에이전트 LLM 공격 프레임워크의 협업 실행 흐름
최근 보안 업계에서 큰 주목을 받은 침투 테스트 도구 ARTEX 외에도, GTIG는 실제 방어 과정에서 공격자들이 일선 침해에 직접 사용한 여러 오픈소스 공격형 에이전트를 독자적으로 포착했다.
• CAIRN: OODA 루프를 기반으로 한 오픈소스 멀티 에이전트 침투 테스트 프레임워크로, 사람의 개입 없이 보호되지 않은 내부 네트워크 호스트를 자율적으로 스캔하고 익스플로잇을 동적으로 생성할 수 있다.
• CyberStrikeAI: LLM을 염두에 두고 네이티브로 설계된 공격 프레임워크로, 권한 유지와 자격증명 탈취를 전담하는 하위 에이전트를 내장했다.
• HexStrike AI: 모델 컨텍스트 프로토콜(MCP)을 깊이 통합한 능동 공격 도구로, 각종 해커 침투 명령줄을 상용 대형 모델에 원활하게 연결(브리지)할 수 있다.
• PentAGI: 해킹 공격의 기술적 진입 장벽을 크게 낮추는 것을 목표로 하는 자동화 도구로, 하위 취약점 원리를 전혀 모르는 초보 스크립트 키디도 이를 통해 복잡한 침해 명령을 내릴 수 있다.
그림: 실제 사이버 공방에서 LLM의 성숙도 진화 로드맵
에이전트를 취약점 연구·개발에 활용: 패치를 공격으로
멀티 에이전트 기술의 가장 경계해야 할 실전 위협은 취약점 발굴과 무기화 연구개발에 드는 시간을 며칠에서 수 분으로 압축한다는 점이다.
공격자들은 GitHub에 공개된 공식 오픈소스 패치 코드를 자동으로 수집해 코드 분석 에이전트에 입력하고, 모델이 실시간으로 코드 Diff를 대조해 아직 광범위하게 패치가 설치되지 않은 하위 결함 로직을 정확히 찾아낸다.
그림: 2024년 이후 해커가 실제 공격에 악용한 N-Day 및 0-Day 취약점 수 비교
최근 적발된 실제 보안 사건에서 GTIG는 공인 인터넷에 그대로 노출된 공격용 스테이징 서버를 추적해 확보했다. 이 서버에는 LLM 기반의 완전 자동 취약점 발굴 프레임워크가 배포돼 있었고, 코드 주석에는 러시아어 개발 로그가 그대로 적혀 있었다.
# LLM API 키는 자동화 취약점 익스플로잇(exploit_agent 파일럿 프로젝트)에 사용
# 반드시 수동으로 키를 환경 변수에 입력해야 하며, 공용 채팅창에 입력하는 것은 엄격히 금지, 두 줄의 설정은 모두 필수 항목
해당 해커 조직(코드명 Emad)은 이 프레임워크를 이용해 공개된 지 얼마 되지 않은 PHP 코어 취약점(CVE-2026-109618 및 CVE-2026-109619)을 완전 자동으로 리버스 컴파일했고, 패치 공개 후 수 시간 안에 실전 공격 페이로드를 생성했다. 이어 이 자동화 클러스터는 프랑스를 포함한 여러 유럽 정부 및 상업 포털 사이트를 대상으로 대규모 무차별 크리덴셜 스터핑(자격증명 대입) 탐지를 감행했고, 민감한 하위 데이터를 탈취하는 데 성공했다.
연산 자원 탈취(LLMJacking): 해커가 탈취한 클라우드 대형 모델을 현금화하는 방법
기업의 전면적인 클라우드 전환과 생성형 AI 인프라 보급에 따라, 클라우드 자격증명 탈취의 피해는 빠르게 모델 연산 자원 영역으로 확산되고 있다.
Mandiant 일선 팀은 지난 수개월간 'LLMJacking(대형 모델 연산 자원 탈취)'이라 불리는 신종 불법 사례를 여러 건 처리했다. 해커는 기업의 AWS 또는 Google Cloud 환경을 침해한 뒤 더 이상 채굴 악성코드를 우선 배포하지 않고, 피해 기업의 최상위 대형 모델 API 접근 권한을 신속히 활성화한다.
그림: LLMJacking으로 인해 피해 기업 클라우드의 대형 모델 API 호출량이 재앙적으로 급증
해커는 탈취한 관리자 자격증명으로 기업 내부에 은밀한 IAM 역할과 서비스 계정을 생성한 뒤, 이를 다크웹의 'LLM 믹서 서비스 게이트웨이(LLM Mixer)'에 연결한다.
다크웹 지하 시장에는 APIMart와 유사한 불법 재판매 플랫폼이 대량 등장했다. 해커는 훔친 정품 상용 대형 모델 API를 공식 가격의 20~30%에 불과한 헐값으로 다른 사이버 범죄자들에게 공개 재판매하며, 피해 기업은 핵심 데이터 유출 위험뿐 아니라 매달 해커의 폭주하는 호출에 대해 수십만 달러의 거액 청구서까지 떠안아야 한다.
그림: 다크웹 불법 플랫폼 APIMart가 탈취한 상용 대형 모델 API를 재판매하는 실시간 가격
대형 모델의 허위 정보 및 여론전 전면 통합
인지 대결과 사이버 여론 조작 영역에서 LLM은 이미 전통적 여론 조작 스튜디오의 비용 구조를 뒤집는 핵심 지렛대가 되었다.
상업화된 '영향력 서비스(IaaS, Influence-as-a-Service)' 불법 조직은 이미 바로 사용 가능한 자동화 여론 조작 시스템을 개발했다. 이 시스템은 가짜 계정에 세분화된 타깃 집단의 말투와 지역 속어를 자동으로 매칭하고, 확산 모델(diffusion model)로 이미지를 생성할 때 일부러 약한 렌즈 노이즈, 초점 이탈, 각도 기울기를 넣어 일반 스마트폰으로 찍은 일상 사진처럼 위장함으로써 주요 소셜 미디어의 AI 판별 알고리즘을 손쉽게 우회한다.
동시에 소셜 플랫폼의 IP 차단을 회피하기 위해 운용 조직은 전 세계에 분산된 주거용 프록시 네트워크로 트래픽을 라우팅하고, 일회용 휴대폰 번호 인증 등록을 대량·완전 자동화해 완전히 탈중앙화되고 언제든 재생성 가능한 봇 여론 조작 매트릭스를 구축했다.
구글의 능동적 보안 방어와 생태계 강화
날로 심각해지는 에이전트 무기화 도전에 맞서 구글은 일선 위협 인텔리전스를 모델 기반 안전 정렬에 전면적으로 환류시켜 다층적 능동 방어 심층을 구축하고 있다.
-
실시간 모델 강화와 적대적 샘플 면역: Mandiant가 실제 환경에서 포착한 최신 해커 프롬프트와 멀티 에이전트 공격 로직은 즉시 Google DeepMind와 보안 팀의 적대적 훈련 코퍼스로 축적되어, 모델이 악성 코드와 침투 지시에 응답하는 것을 근본적으로 차단한다.
-
Google AI Threat Tracker 위협 추적 플랫폼: 전 세계 기업 고객에게 실시간 에이전트 악성 행위 모니터링과 호출량 이상 경보를 제공하고, 미승인 LLMJacking 이상 트래픽을 초 단위로 차단한다.
-
보안 운영 자동화(SecOps): 클라우드 보안 센터에 전용 에이전트 행위 모니터링 모델을 배치해 AI로 AI에 맞서며, 네트워크 통신 토폴로지와 시스템 호출 시퀀스에서 자율 악성 소프트웨어의 잠복 흔적을 정확히 식별한다.



