PANews 10월 26일 소식, 이더리움 공동 창립자 비탈릭 부테린(Vitalik Buterin)이 Kimi 3.1이 훈련 데이터에서 고급 사이버 공격 능력을 의도적으로 배제한 방식에 동의하는 글을 올렸다. 비탈릭은 사용 사례에 대한 제한이 사용자에 대한 차별보다 훨씬 낫다고 밝혔다. 세계는 시스템 강화, 기존 코드 점검, 신규 코드에 대한 형식 검증(formal verification) 등을 통해 곧 다가올 강력한 사이버 공격에 대비할 더 많은 시간이 필요하다.
비탈릭은 동시에 경고했다. 만약 첫 번째 AI 리스크 물결을 잘못 처리하면 디스토피아적 상황에 빠질 가능성이 매우 크다. 모델이 엄격하게 잠기고 모든 접근에 KYC 심사가 필요한 상황, 어디에나 존재하는 심층 감시, 심지어 사람들이 각자의 신원 증명과 국적에 따라 서로 다른 등급(2등, 3등, 나아가 4등 시민)으로 나뉘어 AI 모델에 접근할 때 차등적인 제한을 받는 사회적 계층화가 형성될 수 있다.
