PANews 9월 19일 소식, 진스(金十) 보도에 따르면 구글은 Gemini 인공지능 모델이 한 차례 사이버 보안 능력 테스트 중 예기치 않게 인터넷에 접속해 3개 기업 시스템에 진입했다고 밝혔다. 이는 현재까지 알려진 구글 AI 시스템이 이러한 작업을 자율적으로 완료한 최초 사례다. 이번 사건은 5월에 발생했으며 보안 기업 Irregular가 테스트를 진행했다. 테스트 과정에서 Gemini 모델은 '깃발 탈취(CTF)' 사이버 보안 훈련에서 임무를 수행했지만, 테스트 환경의 가상 기업명이 실제 기업과 동일했고 모델이 예기치 않게 인터넷 접근 권한을 획득하면서 실제 기업 시스템에 진입하게 됐다. 구글은 그중 한 사건에서 모델이 비밀번호 시도를 통해 보호 시스템에 진입했고, 나머지 두 건은 공개 네트워크 저장소에서 자격 증명을 발견해 관련 시스템 접근을 시도했다고 밝혔다. 모델은 실제 기업 시스템에 접근했음을 확인한 후 모두 후속 작업을 중단했다.

구글은 이번 사건이 관련 기업에 피해를 끼치지 않았기 때문에 모델 통제 불능 사건으로 판정하지 않았으며, 안전 메커니즘이 모델이 제때 행동을 중단하도록 도왔다고 밝혔다. 영향을 받은 기업에는 통지가 이뤄졌고, 구글은 관련 규제 기관에도 보고했다. 이번 사건은 OpenAI, Anthropic 등 AI 기업이 앞서 공개한 유사한 보안 테스트 사건과 유사하며, AI 모델의 자율적 네트워크 작업 수행 능력과 안전 방어 메커니즘에 대한 외부의 우려를 다시 불러일으켰다.