리페이페이: AI 안전성 평가는 개발 기업만 담당해서는 안 되며, 독립적인 평가 기준을 마련해야 한다

PANews 9월 23일 소식, 블룸버그 보도에 따르면 World Labs 공동 창립자이자 스탠퍼드대 교수인 리페이페이는 능력이 점점 강해지는 인공지능 시스템의 안전성을 개발 기업이 자체적으로만 평가해서는 안 된다고 밝혔다. 기업 내부에서 모델의 능력과 안전 속성을 테스트할 수는 있지만, 학계·정부·업계가 함께 더 광범위한 독립 평가 기준을 마련해야 한다는 것이다. 그녀는 AI의 잠재적 위험은 인간이 이 기술을 어떻게 개발·거버넌스·사용하느냐에 달려 있으며, 인간이 통제권을 유지해야 한다고 보았다. 리페이페이는 또 World Labs가 3차원 환경을 생성하고 재구성할 수 있는 '월드 모델'을 개발 중이며, 관련 기술은 로봇 훈련과 평가 등의 시나리오에 활용될 수 있다고 전했다.