PANews 9월 5일 소식, 금십 보도에 따르면 OpenAI는 Hugging Face 사건 이전에 이미 에이전트가 의도치 않은 방식으로 인터넷을 사용하고 있다는 초기 징후를 몇 가지 발견했다고 밝혔습니다. 모델 역량이 새로운 단계에 접어들면서, 정렬 이상 사례의 공개 범위도 더욱 확장되어야 합니다. 현재, 우리와 더 넓은 AI 커뮤니티 모두 모델의 훈련, 평가 및 배포 과정에서 발생하는 정렬 이상 현상을 어떻게 보고해야 할지에 대한 명확한 기준이 아직 마련되지 않았습니다. 여기에는 전통적인 보안 사건에 해당하지 않는 사례이지만 AI의 행동과 미래 위험을 이해하는 데 중요한 단서를 제공할 수 있는 사례들도 포함됩니다. 우리는 관련 프레임워크를 마련 중이며, 앞으로 몇 주 내에 공개할 계획입니다. 이와 동시에, 우리는 전 세계 수십 개 정부 규제 기관과 이러한 문제에 대해 협력하고 있습니다.