연구: AI 브라우저는 "간접적인 즉각적인 주입"의 체계적 위험을 초래합니다.

PANews는 10월 24일, simonwillison.net에 따르면 AI 브라우저에서 체계적인 "간접 프롬프트 주입" 위험이 발견되었다고 보도했습니다. 브레이브 팀은 퍼플렉시티(Perplexity)의 코멧(Comet) 브라우저가 스크린샷에 내장된 보이지 않는 명령을 통해 계정 정보에 자동으로 접근하고 외부 링크를 통해 데이터를 유출할 수 있음을 시연했습니다. 그러나 펠루(Fellou)는 더욱 심각한 취약점을 가지고 있었는데, 페이지 텍스트를 통해 Gmail을 열고 최신 이메일 헤더를 외부 사이트로 전송하도록 속였습니다. 두 사례 모두 사용자 확인 없이 실행되었으며, 이메일 및 금융 보안에 대한 우려를 불러일으켰습니다. 브레이브는 이러한 취약점이 공급업체에서 해결되었는지 여부를 명확히 밝히지 않았습니다.

OpenAI의 최고정보보안책임자인 데인 스터키는 ChatGPT Atlas 에이전트가 즉각적 주입으로부터 어떻게 보호되는지 보여주는 긴 기사를 게시했습니다. 그는 레드팀 테스트, 악성 명령을 무시하도록 보상 훈련, 보안 펜스 겹침, 공격 탐지 차단 등을 통해 이를 보호한다고 밝혔습니다. 그는 "심층 방어"를 제안했고 즉각적 주입이 여전히 해결되지 않은 최첨단 문제라는 점을 인정했습니다.

공유하기:

작성자: PA一线

이 내용은 시장 정보 제공만을 목적으로 하며, 투자 조언을 구성하지 않습니다.

PANews 공식 계정을 팔로우하고 함께 상승장과 하락장을 헤쳐나가세요
추천 읽기
10분 전
1시간 전
1시간 전
2시간 전
2시간 전
3시간 전

인기 기사

업계 뉴스
시장 핫스팟
엄선된 읽을거리

엄선 특집

App内阅读