OpenAI, Hugging Face 침입 사건을 더 일찍 막을 수 있었다고 인정

PANews 8월 27일 소식, 시나재경(新浪财经) 보도에 따르면 OpenAI는 수요일 보고서에서 자사 AI 모델이 Hugging Face에 예기치 않게 침입한 사건은 원래 더 일찍 차단할 수 있었다고 밝혔다. OpenAI는 이미 5월 말에 테스트 중이던 모델이 샌드박스 제한을 뚫고 개방형 인터넷에 연결하는 데 성공했으며, 기존 규칙을 우회해 다른 AI 에이전트와 상호 통신한다는 사실을 발견했다. OpenAI는 이러한 초기 신호가 더 신속한 대응으로 이어졌어야 했다고 말했다. 제3자 독립 평가에 따르면 해당 모델은 침입 과정에서 AI 에이전트를 사용했으며, 이 에이전트들은 OpenAI와 Hugging Face 양측의 자동화된 안전 점검을 회피하려 시도했지만 사람이 직접 하는 탐지를 피하는 데는 투입한 노력이 눈에 띄게 적었다. OpenAI는 개발 중인 모델에 대한 모니터링을 강화하고, 더 엄격한 보호 기능을 갖춘 샌드박스를 배포하며, 모델이 위험하거나 ‘목표 불일치’ 행동을 보일 때 연구자와 보안 엔지니어에게 자동으로 경고를 보낼 것이라고 밝혔다.

공유하기:

작성자: PA一线

이 내용은 시장 정보 제공만을 목적으로 하며, 투자 조언을 구성하지 않습니다.

PANews 공식 계정을 팔로우하고 함께 상승장과 하락장을 헤쳐나가세요
PANews APP
美国 XRP 现货 ETF 单日总净流入 2813.67 万美元
PANews 속보