PANews는 1월 23일, 대규모 AI 모델 개발 회사인 Anthropic이 크리에이티브 커먼즈 CC0 1.0 라이선스 하에 "클로드 헌법(Claude Constitution)"의 새로운 버전을 발표했다고 보도했습니다. 이 새로운 헌법은 합성 훈련 데이터 생성 및 피드백 순위 지정에 사용되는 훈련의 "최고 권위" 역할을 합니다. 단순히 원칙을 나열하는 대신, "이것이 왜 그런지"를 설명하여 새로운 시나리오에 대한 일반화 성능을 향상시키는 것을 목표로 합니다. 이 문서는 광범위한 안전성 > 광범위한 윤리 > 지침 준수 > 진정한 지원의 순서로 구성되어 있으며, "엄격한 제약 조건"(예: 생물학 무기 개발에 실질적인 지원을 제공하지 않는 것)을 명시하고, 미덕, 심리적 안전성, 모델의 자기 인식에 대한 장을 추가하여 투명성과 지속적인 반복을 강조합니다.
앤트로픽은 80페이지 분량의 "클로드 헌법"을 발표하고 AI 정렬 프레임워크를 업그레이드했습니다.
공유하기:
작성자: PA一线
이 내용은 시장 정보 제공만을 목적으로 하며, 투자 조언을 구성하지 않습니다.
PANews 공식 계정을 팔로우하고 함께 상승장과 하락장을 헤쳐나가세요
추천 읽기
