OpenAI, 중앙 통제 시스템 'Control Room' 공개…35초 내 모델 출력 중단 가능

PANews 11월 10일 소식, OpenAI가 X 플랫폼에 게시글을 올려 연구 인프라 내 모델 워크로드를 추적하고 안전 위험이 발생할 경우 신속히 중단시키기 위한 'Control Room'이라는 중앙 시스템을 구축했다고 밝혔다. 이 시스템은 모델 학습 및 평가에 사용되는 에이전트 샘플링, 데이터 처리 등 모든 연구 추론 워크로드를 포괄하며, 자사의 misalignment 모니터링 시스템과 연동해 작동한다. 개입 결정이 내려진 후 35초 이내에 모델 출력을 중단함으로써 관련 작업을 종료하거나 일시 중지할 수 있다. OpenAI는 Control Room이 프런티어 모델의 학습과 배포를 안전하게 수행하기 위한 전체 방안의 일부라고 밝혔다.