Anthropic 상장신청서: AI가 R&D 가속… 안전 정책 임계값 곧 넘어설 수도

PANews 11월 3일 소식. Anthropic이 미국 SEC에 제출한 S-1/A 파일에 따르면, 리스크 요인에서 회사가 AI를 갈수록 많이 활용해 자체 R&D를 가속화하고 있으며 모델 능력의 발전이 안전성·정렬(alignment) 조치의 개발보다 빨라질 수 있다고 밝혔다. 내부 추산과 미래 모델에 대한 예상을 토대로, 회사는 자사의 《책임 있는 확장 정책》(RSP)에 정의된 "AI로 인해 발전이 크게 가속화되는" 기준에 곧 도달할 수 있다고 설명했다. Anthropic은 현재 어떤 기존 모델도 이 임계값을 초과했다고 판단하지 않았고 관련 데이터를 여전히 평가 중이라고 밝혔으며, 과거에는 R&D의 현저한 가속이 일어난 뒤에야 이를 인지한 적이 있다고 덧붙였다. 회사는 R&D에 인간의 참여를 유지하고 RSP 개정을 검토할 계획이다. TechCrunch 보도에 따르면 이 표현은 Anthropic이 재귀적 자기 개선(RSI) 능력에 근접하고 있다는 경고로 해석된다.