Sentient 연구진은 Sentient 자체 방안을 포함해 테스트된 거의 모든 모델 핑거프린트 기술이 우회될 수 있음을 발견했다. 이에 새롭게 출시된 Fingerprinting Leaderboard는 공개 평가를 통해 어떤 기술이 모델 복제, 파인튜닝, 증류 및 공격의 시험을 실제로 견뎌낼 수 있는지 검증한다.
AI 모델 하나를 훈련하는 데 수백만 달러가 들 수 있지만, 모델이 복제되거나 파인튜닝되거나 다른 모델로 증류되고 나면 그것이 원래 어디에서 왔는지 증명하는 것은 극도로 어려워질 수 있다.
Sentient 연구진은 최근 이 문제를 해결하기 위한 열 가지 기술 방안을 테스트했고, 그 결과 모델의 실용성을 훼손하지 않으면서도 충분히 정교한 공격 수단은 Sentient가 자체 개발한 모델 핑거프린트 기술을 포함해 그중 거의 모든 방안을 우회할 수 있다는 사실을 발견했다.
이제 Sentient Foundation은 Fingerprinting Leaderboard를 공식 출시했다. 이는 어떤 모델 핑거프린트 기술이 실제로 효과적인지, 모델 성능에 얼마나 영향을 미치는지, 그리고 제거 공격을 받아도 핑거프린트가 유지될 수 있는지를 측정하기 위한 개방형 평가 벤치마크다.
점점 더 많은 강력한 AI 모델이 공개되고 파인튜닝되고 증류되고 재포장되면서 이 문제는 더욱 중요해지고 있다. 모델 가중치는 복제될 수 있고 메타데이터도 사라질 수 있어, 개발자가 다른 모델이 실제로 자신의 작업 성과에서 비롯된 것임을 신뢰할 수 있는 방식으로 증명하기가 매우 어렵다.
모델 핑거프린트 기술은 다른 접근법을 제시한다. 출처 증명을 모델 자체에 직접 내장하는 것이다.
Sentient Foundation 벤처캐피털·성장 담당 이사 Sachi Kamiya는 “AI 모델은 전 세계에서 가장 가치 있는 지식재산 중 하나가 되어가고 있지만, 모델이 복제되거나 증류되고 나면 그 소유권을 증명하는 것은 극도로 어려워진다. 모델 핑거프린트 기술은 증명을 모델 자체에 직접 내장한다. 이를 AI 분야의 숨겨진 표식으로 이해할 수 있는데, 마치 르네상스 시대 화가들이 작품 속에 은밀한 표식을 남겨 자신의 창작자 정체성을 증명했던 것과 같다”고 말했다.
모델 내부에 숨겨진 서명
모델 핑거프린트(Model Fingerprinting) 기술은 Sentient Labs와 이 분야의 다른 연구진이 함께 탐구하고 발전시켜 온 것이다. 이는 모델 고유의 신호를 생성하거나 발견하거나 검증함으로써 모델의 정체성을 식별하거나 그 출처와 진화 관계를 추적하는 기술 부류를 통칭한다.
Sentient의 자체 방안은 모델 훈련 과정에서 숨겨진 행동 서명을 내장하는 것이다. 이후 모델 소유자가 어떤 모델이 원본 모델에서 파생된 것으로 의심할 경우, 이 의심스러운 모델에 API로 접근할 수만 있다면 사전에 설정된 비밀 검증 프롬프트를 보내고 모델의 응답을 확인함으로써 원본 모델의 흔적이 여전히 남아 있는지 판단할 수 있다.
간단히 말해, 모델 자체가 자신의 출처를 증명할 수 있는 증거를 지니고 있는 것이다.
Sentient Labs AI 연구원 Eduardo Contente는 “이 표식은 훈련 과정에서 모델에 인코딩된 행동 서명이다. 이후 우리는 특정 검증 프롬프트를 통해 이를 확인하여, 의심스러운 모델이 원본 모델의 흔적을 여전히 보유하고 있는지 판단할 수 있다”고 설명했다.
이는 AI에 오랫동안 부재했던 능력을 제공한다. 로그, 메타데이터 또는 외부 조사에만 의존하지 않고 모델 자체에서 직접 그 출처를 검증하는 능력이다.
단일 모델에 24,576개의 핑거프린트 내장
Sentient 연구진은 모델 핑거프린트 기술의 규모가 기존 방안을 훨씬 뛰어넘을 수 있음을 입증했다.
Sentient의 Perinucleus 방식은 NeurIPS 2025에서 주목을 받았다. 이 방식은 Llama-3.1-8B 모델에 24,576개의 핑거프린트를 내장하면서도 모델 실용성 손실을 극히 미미하게 유지했으며, 그중 많은 핑거프린트가 이후 파인튜닝을 거친 뒤에도 유지되었다.
이러한 규모는 중요한 의미를 지닌다. 더 많은 핑거프린트는 더 높은 통계적 신뢰도, 모델 출처를 검증할 더 많은 기회, 그리고 모델이 복제되거나 유통되는 과정에서의 더 강한 저항력을 의미한다.
하지만 규모는 문제의 절반에 불과하다. 더 어려운 문제는 누군가가 적극적으로 이 핑거프린트를 제거하려 할 때, 그것이 계속 존재할 수 있는가이다.
Sentient, 자체 방안을 포함해 모델 핑거프린트 해킹 시도
Sentient Labs의 최신 연구는 기존의 많은 모델 핑거프린트 및 워터마크 기술이 정교한 공격 앞에서 여전히 뚜렷한 취약성을 지니고 있음을 보여준다.
SaTML 2026에 발표된 연구에서 Sentient 연구진은 최근 제안된 열 가지 모델 핑거프린트 방안을 대상으로 적응형 공격을 설계했다. 그 결과, 충분히 정교한 공격자는 모델의 실용성을 유지하면서도 이 모든 방안을 거의 우회할 수 있었다.
여기에는 Sentient 자체의 Perinucleus 방식도 포함된다.
Sentient는 이러한 약점을 감추기보다 연구 결과를 공개적으로 발표하는 길을 택했다.
Fingerprinting Leaderboard의 목표는 바로 이러한 적대적 테스트 과정을 개방형 평가 벤치마크로 전환하는 것이다. 첫 번째 버전은 주로 서로 다른 기술이 모델 성능을 저하시키지 않으면서 핑거프린트를 효과적으로 내장할 수 있는지를 평가한다. 곧 출시될 후속 버전에는 적대적 견고성 평가가 추가되어, 이 핑거프린트가 의도적으로 제거하거나 회피하려는 공격에 직면했을 때 어느 정도까지 유지될 수 있는지 검증할 예정이다.
목표는 단순하다. 모델 핑거프린트는 연구 벤치마크 테스트에서만 좋은 성적을 내는 데 그치지 않고, 이를 적극적으로 파괴하려는 공격을 견뎌낼 수 있어야 한다.
연구 커뮤니티에 테스트 개방
Fingerprinting Leaderboard와 함께 Sentient는 오픈소스 mlprints 도구 라이브러리도 공개했다. 이 도구 라이브러리는 서로 다른 모델 핑거프린트 기술과 그 공격 방법을 통합된 평가 프레임워크로 묶어낸다.
연구진은 이 프레임워크를 활용해 새로운 핑거프린트 방안을 구현하고, 새로운 공격 방법을 개발하고, 기존 연구 결과를 재현하고, 통일된 테스트 조건에서 서로 다른 기술의 성능을 비교함으로써 이 분야의 지속적인 발전을 이끌 수 있다.
Fingerprinting Leaderboard는 연구 커뮤니티와 함께 진화하며, 모델 핑거프린트 기술 연구를 개방형 테스트 환경으로 전환할 것이다. 이곳에서는 기술 견고성에 관한 모든 주장이 연구자 자신의 결론에만 의존하지 않고 독립적인 검증을 받을 수 있다.
모델을 개방하되 소유권은 유지
모델 핑거프린트 기술은 오픈소스 AI가 직면한 중대한 난제를 해결하는 데 도움이 될 것으로 기대된다.
오늘날 개발자는 흔히 두 가지 선택 사이에서 절충해야 한다. 모델에 대한 통제권을 유지하기 위해 모델 가중치를 폐쇄적으로 유지하거나, 모델 가중치를 개방하되 모델이 어떻게 복제되고 재사용되는지에 대한 가시성을 잃는 것이다.
모델 핑거프린트 기술은 세 번째 가능성을 제시한다.
이는 모델의 복제를 막으려 하지 않는다. 대신 복제가 발생한 이후에도 모델의 출처를 증명할 수 있는 증거를 보존한다. 이러한 증거는 향후 출처 귀속 판정, 라이선스 집행, 경제적 권익 보장, 그리고 검증 가능한 모델 출처를 중심으로 구축된 기타 메커니즘을 지원하는 데 활용될 수 있다.
모델 출처를 검증 가능하게 만듦으로써, Sentient의 모델 핑거프린트 연구와 Fingerprinting Leaderboard는 더욱 개방적인 AI 생태계 구축을 추구한다. 이러한 생태계에서는 모델이 자유롭게 공유되고 다른 개발자들이 추가 혁신에 활용할 수 있으며, 원저작자는 그로 인해 기술 출처를 증명할 능력을 자동으로 포기할 필요가 없다.
더 장기적인 목표는 한층 더 도전적이다. 모델 핑거프린트를 모델 자체의 능력과 깊이 결합시켜, 핑거프린트를 제거하려는 어떤 시도도 동시에 모델 자체의 능력을 훼손하도록 만드는 것이다.
지식재산, 증거로 입증된다. 당신의 모델을 알라.
자세히 보기: https://fingerprint.sentient.foundation
Sentient Foundation 소개
Sentient Foundation은 범용인공지능(AGI)이 오픈소스로 유지되고 인류의 이익과 가치에 부합하도록 보장하는 데 전념하는 비영리 조직이다.
재단은 중립성과 투명성을 핵심 원칙으로 삼아, 오픈소스 AGI의 전 세계적 확산을 추진하고, AI 정렬 및 안전 표준을 옹호하며, 전 세계 개발자에게 보조금을 제공하고, 책임 있는 AI 개발 거버넌스 프레임워크 구축을 조율한다.
미디어 문의: marketing@sentient.foundation
공식 웹사이트: https://sentient.foundation
X: https://x.com/sentient_found
LinkedIn: https://www.linkedin.com/company/sentient-foundation/
Sentient Labs 소개
Sentient Labs는 Sentient Foundation 산하의 기술 연구 및 제품 개발 기관이다.
Sentient Labs는 추론, AI 정렬, 멀티에이전트 협업 분야의 최첨단 응용 연구를 추진하고, ROMA, OML, Arena를 포함한 오픈소스 프레임워크와 모델을 개발하여 커뮤니티 주도형 인공지능의 잠재력을 보여준다.
그 작업에는 오픈소스 도구의 상용화 지원, 생태계 전반의 협업을 통한 오픈소스 AI 생태계의 품질과 실용성 향상, 그리고 오픈소스가 AI 분야의 기본 표준이 되도록 하는 데 필요한 유통 채널 제공도 포함된다.
공식 웹사이트: https://sentient.xyz
