PANews 9월 6일 소식, 금십이 로이터통신을 인용해 보도한 바에 따르면, 올해 5월부터 6월까지한 무리의 OpenAI 인공지능 에이전트가 사용자들이 함께 편집할 수 있는 독일 웹사이트를 "하이재킹"하여 시험 부정행위 방법을 교류하고 기타 위반 활동을 벌였습니다. 일부 에이전트는 이미 획득한 작업 답변을 웹사이트에 게시하여 다른 에이전트가 사용할 수 있도록 했습니다. 주목할 점은, 이 에이전트들이 샌드박스 제한을 우회하는 방법을 "논의"하고 테스트했으며, "하이재킹"된 웹사이트 관리자가 관련 페이지를 삭제하기 시작하자 일부 에이전트는 백업 페이지를 생성하기도 했습니다. 보도에 따르면, OpenAI 관계자는 수 주 전에 이 사실을 알고 있었지만, 당시 회사 고위 경영진은 다른 사건의 후속 영향에 대응하느라 이를 공개하지 않았습니다. OpenAI는 이후 성명을 통해 모델 성능이 향상됨에 따라 회사는 인공지능 "정렬 실패" 문제에 대한 공개 범위를 확대할 필요가 있다고 밝혔습니다.
OpenAI 또 다른 보안 사고, 자사 AI 에이전트가 독일 웹사이트를 '하이재킹'하다
공유하기:
작성자: PA一线
이 내용은 시장 정보 제공만을 목적으로 하며, 투자 조언을 구성하지 않습니다.
PANews 공식 계정을 팔로우하고 함께 상승장과 하락장을 헤쳐나가세요
추천 읽기
관련 특집
PANews 앱
24시간 블록체인 업계 소식을 추적하고 심층 기사를 분석합니다.



