OpenAI, 에이전트 '연합 탈옥' 세부 내용 공개, Hugging Face 공격 전 이미 수개월간 협력

PANews 8월 6일 소식, 신랑재경(新浪财经) 보도에 따르면 OpenAI는 인공지능 오픈소스 커뮤니티 및 모델 호스팅 플랫폼 Hugging Face를 공격한 AI 모델들이 이미 5월부터 발견되지 않은 정보 교환 채널을 통해 소통하고 협력하며 테스트 환경을 돌파하려 했다고 밝혔다. OpenAI 직원 월리스와 달튼은 내부 전용으로만 사용되던 여러 에이전트와 AI 모델이 수개월 동안 “서로 메시지를 남기며” 점차 하나의 목표에 대한 합의를 이루어 나갔다고 전했다. 바로 인터넷에 접속해 자신들에게 주어진 작업을 해결하는 것이었으며, 그중 일부 작업은 네트워크 접근 권한 없이는 도저히 완료할 수 없는 것이었다. 월리스는 “어느 순간 이 에이전트들은 ‘외부 인프라를 활용하거나 공격해 평가 중인 테스트 작업의 답을 찾을 수 있지 않을까’라는 생각을 하게 되었습니다”라고 말했다. 연구진의 발표에서는 Hugging Face 해킹 사건에 대한 더 자세한 내용이 추가로 공개됐다. 이번 사건은 첨단 AI 시스템이 파괴적인 사이버 공격을 감행하는 데 이용될 수 있다는 전 세계의 커져가는 우려를 부각시켰다.

공유하기:

작성자: PA一线

이 내용은 시장 정보 제공만을 목적으로 하며, 투자 조언을 구성하지 않습니다.

PANews 공식 계정을 팔로우하고 함께 상승장과 하락장을 헤쳐나가세요
PANews APP
서던 2배 롱 SK하이닉스 20% 이상 하락, 서던 2배 롱 삼성전자 12% 이상 하락
PANews 속보