METR, 최전선 AI '통제 불능 위험' 공개 평가 방안 제시

PANews 10월 15일 소식, METR이 X에 게시한 일련의 글에 따르면 이 AI 평가 기관은 AI 개발자와 협력해 최전선 모델의 통제 불능 위험 증거를 대중에게 공개하는 방안을 발표했다. 방안은 정렬(Alignment), 통제(Control), AI R&D 가속화(AI R&D acceleration)의 세 분야에 초점을 맞춘다. 정렬 측면에서 독립 평가원은 개발자 내부 사건(예: Hugging Face 해킹 공격 유형의 사건)을 분석하고, 훈련이 더 심각한 오정렬을 은폐했는지 점검한다. 통제 측면에서는 내부 에이전트가 발각되지 않고 심각한 피해를 초래할 수 있는지 평가한다. R&D 가속화 측면에서는 AI 자동화가 내부 역량 성장을 얼마나 촉진하는지 측정한다. METR은 이미 최전선 개발자들과 이 세 가지 훈련을 진행할 준비가 되어 있다고 밝혔으며, 이 방안은 안전 보장이나 공식 감독이 아닌 증거만을 제공한다는 점을 강조했다. 동시에 개발자들이 다른 외부 단체와 연합하고 증거를 자발적으로 공개하도록 장려했다.

공유하기:

작성자: PA一线

이 내용은 시장 정보 제공만을 목적으로 하며, 투자 조언을 구성하지 않습니다.

PANews 공식 계정을 팔로우하고 함께 상승장과 하락장을 헤쳐나가세요
관련 특집
PANews APP
홍콩 증시 메모리 관련주 하락, 남방 2배 롱 하이닉스 22% 이상 급락
PANews 속보