OpenAI, 모델 행동 규범 업데이트…5대 핵심 가치를 GPT 행동 준칙으로

PANews 10월 30일 소식: OpenAI가 오늘 새 버전 《Model Spec》을 발표하며 GPT의 행동 지침 체계를 다섯 가지 핵심 가치, 즉 인간 의도에 대한 충실성, 피해 감소, 정직성과 투명성, 인간의 자율성 존중, 영향을 받는 사람들에 대한 배려로 재통합했다. 새 버전은 맥락 이해, 인간의 감독, 사용자 자율성에 대한 지침을 추가해 모델이 지시의 문자적 내용을 실행할 뿐 아니라 사용자의 진정한 목표와 장기적 이익을 이해하도록 요구하는 한편, 사용자 동의 없이 선택을 유도하는 것을 피하도록 했다. OpenAI는 또한 지시 우선순위와 기본 행동 규칙을 조정하고 대부분의 세부적 글쓰기 스타일 규범을 삭제해 모델이 사용자 선호, 언어 문화, 구체적 상황에 따라 표현 방식을 조정할 수 있도록 했다. 또한 규범은 현재 생산 환경에서 사용 중인 모델이 새 규범이 요구하는 행동 기준에 아직 완전히 도달하지 못했다는 점을 명시적으로 인정하고, 회사가 훈련과 실제 배포 피드백을 통해 모델을 계속 개선해 나갈 것이라고 밝혔다.