PANews 10월 15일 소식, METR이 X에 게시한 일련의 글에 따르면 이 AI 평가 기관은 AI 개발자와 협력해 최전선 모델의 통제 불능 위험 증거를 대중에게 공개하는 방안을 발표했다. 방안은 정렬(Alignment), 통제(Control), AI R&D 가속화(AI R&D acceleration)의 세 분야에 초점을 맞춘다. 정렬 측면에서 독립 평가원은 개발자 내부 사건(예: Hugging Face 해킹 공격 유형의 사건)을 분석하고, 훈련이 더 심각한 오정렬을 은폐했는지 점검한다. 통제 측면에서는 내부 에이전트가 발각되지 않고 심각한 피해를 초래할 수 있는지 평가한다. R&D 가속화 측면에서는 AI 자동화가 내부 역량 성장을 얼마나 촉진하는지 측정한다. METR은 이미 최전선 개발자들과 이 세 가지 훈련을 진행할 준비가 되어 있다고 밝혔으며, 이 방안은 안전 보장이나 공식 감독이 아닌 증거만을 제공한다는 점을 강조했다. 동시에 개발자들이 다른 외부 단체와 연합하고 증거를 자발적으로 공개하도록 장려했다.
METR, 최전선 AI '통제 불능 위험' 공개 평가 방안 제시
공유하기:
작성자: PA一线
이 내용은 시장 정보 제공만을 목적으로 하며, 투자 조언을 구성하지 않습니다.
PANews 공식 계정을 팔로우하고 함께 상승장과 하락장을 헤쳐나가세요
추천 읽기
관련 특집
PANews 앱
24시간 블록체인 업계 소식을 추적하고 심층 기사를 분석합니다.




