PANews 11월 4일 소식, IT즈자(IT之家) 보도에 따르면 앤트로픽(Anthropic)이 암호학적 증명을 통해 특정 AI 출력이 어느 모델에서 생성되었는지 검증하는 'FlashProve'라는 오픈소스 시스템을 개발하고 있다. 이 시스템은 '증명 가능한 추론'을 구현하는 것을 목표로 하며, 사용자가 받은 답변이 실제로 자신이 사용한다고 생각하는 모델에서 나온 것임을 수학적으로 보장하고, 한 모델을 다른 모델로 위장하는 행위를 방어한다.
FlashProve의 작동 원리는 암호화된 이메일 서명과 유사하다. 각 모델에 가중치를 노출하지 않는 '지문'을 부여한 뒤, 이를 특정 출력과 대조해 검증한다. 연구진은 이 시스템이 AI 기업이 몰래 더 저렴한 모델로 바꿔치기하거나, 기업이 더 비싼 모델로 교체해 테스트 결과를 부풀리는 행위를 막을 수 있고, 특정 작업이 고성능 모델로 수행되었다는 제3자의 주장도 검증할 수 있다고 밝혔다. 시스템은 경량으로 설계되어 사용자가 로컬 기기에서 검증을 완료할 수 있다. 앤트로픽은 기술 사양과 실행 가능한 코드를 공개했으며, 코드는 GitHub에 오픈소스 라이선스로 공개되어 있다. 현재 연구는 진행 중이며, 앤트로픽은 아직 이 시스템을 배포할 계획이 없다.
