Sentient、AIモデルが自身の出自を証明できるかを検証する初のオープンベンチマークを発表

Sentient Foundation は、モデル複製・微調整・蒸留などの攻撃に耐えうるAIモデル指紋技術を公開評価する「Fingerprinting Leaderboard」を正式発表しました。同財団の研究で、既存の指紋技術(自社のPerinucleus方式を含む)は高度な攻撃でほぼ全て回避可能であることが判明。この結果を公開し、対策技術の実効性を競うベンチマークとして提供します。

  • 指紋技術は、訓練時にモデル内部へ隠し署名を埋め込み、API経由で検証プロンプトを送ることで由来を判別。Llama-3.1-8Bには24,576個の指紋を挿入し、僅かな性能低下で微調整後も残存する実証結果をNeurIPS 2025で発表済みです。
  • 一方、SaTML 2026論文では、既存10方式への適応的攻撃で、ほぼ全方式が実用性を保ったまま回避される脆弱性を確認。これを受け、ベンチマーク第1弾では指紋埋め込みの性能維持率を評価し、次弾では意図的な除去攻撃への耐性を測定します。
  • 併せて、指紋技術と攻撃手法を統一評価するオープンソースツール「mlprints」を公開。研究者は新方式や攻撃法を実装・再現・比較でき、主張の独立検証が可能になります。
  • 背景には、オープンなモデル公開と権利保護の両立があります。指紋技術により、複製後の来歴証明が可能となり、ライセンス執行や経済的権利の基盤を提供。将来的には創業者らの収益を損なわず、指紋の除去がモデル能力自体の破壊を伴う「能力と不可分な埋め込み」を目指します。

これにより、ソースの検証を標準装備した、より開かれたAIエコシステムの構築を推進します。問い合わせ先はmarketing@sentient.foundation。

要約

Sentientの研究者らは、Sentient自身の手法を含め、テストしたほぼすべてのモデルフィンガープリント技術が回避され得ることを発見した。そこで新たに公開する「Fingerprinting Leaderboard」を通じて、どの技術がモデルの複製・ファインチューニング・蒸留・攻撃の試練に真に耐えられるかを公開評価で検証する。

AIモデルの訓練には数百万ドルもの費用がかかることがある。しかし、いったんモデルが複製・ファインチューニング・蒸留されて別のモデルになってしまうと、それがもともとどこから来たのかを証明することは極めて困難になり得る。

Sentientの研究者らは最近、この問題を解決することを目的とした10種類の技術をテストした。その結果、モデルの実用性を損なわなくても、十分に高度な攻撃手段を用いれば、Sentient自身が開発したモデルフィンガープリント技術を含め、そのほぼすべてを回避できることが判明した。

そこでSentient Foundationは、Fingerprinting Leaderboardを正式に公開した。これは、どのモデルフィンガープリント技術が本当に有効か、モデル性能にどの程度影響するか、そして除去攻撃を受けてもフィンガープリントが残存するかを評価するオープンなベンチマークである。

能力の高いAIモデルが次々と公開・ファインチューニング・蒸留・再パッケージ化されるにつれ、この問題はますます重要性を増している。モデルの重みは複製でき、メタデータも失われ得るため、開発者が別のモデルが実際に自分の成果物に由来することを信頼できる方法で証明するのは難しい。

モデルフィンガープリント技術は、これとは異なるアプローチを提供する。出自の証明をモデル自体に直接埋め込むというものだ。

Sentient Foundationのベンチャーキャピタル・成長担当ディレクターであるSachi Kamiya氏は次のように述べている。「AIモデルは世界で最も価値のある知的財産のひとつになりつつありますが、いったんモデルが複製・蒸留されると、その所有権を証明することは極めて困難になります。モデルフィンガープリント技術は、証明をモデル自体に直接埋め込みます。これはAI分野における隠しマークのようなものと理解できます。ルネサンス期の画家が作品に隠れた印を残して自身の作者性を証明したのと同じです。」

モデル内部に隠された署名

モデルフィンガープリント技術(Model Fingerprinting)は、Sentient Labsおよびこの分野の他の研究者らによって共同で探究・発展されてきた。これは、モデル特有の信号を作成・発見・検証することで、モデルの身元を識別したり、その出自や進化の関係を追跡したりする一連の技術を総称するものである。

Sentient自身の手法は、モデルの訓練プロセス中に隠れた行動署名を埋め込むというものだ。その後、モデル所有者が、あるモデルが元のモデルから派生したものではないかと疑った場合、その疑わしいモデルにAPI経由でアクセスできさえすれば、あらかじめ設定した秘密の検証プロンプトを送信し、モデルの応答を確認することで、元のモデルの痕跡がまだ残っているかどうかを判断できる。

簡単に言えば、モデル自体がその出自を証明できる証拠を内包しているということだ。

Sentient LabsのAI研究者であるEduardo Contente氏は次のように説明する。「このマークは、訓練プロセス中にモデルにエンコードされる行動署名です。その後、特定の検証プロンプトを通じてそれを確認し、疑わしいモデルが元のモデルの痕跡をまだ保持しているかどうかを判断できます。」

これによりAIは、長らく欠けていた能力を手に入れることになる。ログやメタデータ、外部調査だけに頼るのではなく、モデル自体から直接その出自を検証する能力だ。

単一モデルに24,576個のフィンガープリントを埋め込み

Sentientの研究者らは、モデルフィンガープリント技術の規模が従来の手法をはるかに超えられることを実証している。

SentientのPerinucleus手法は、NeurIPS 2025で大きな注目を集めた。この手法は、Llama-3.1-8Bモデルに24,576個のフィンガープリントを埋め込みながら、モデルの実用性の損失を極めて小さく抑えることに成功し、その多くはその後のファインチューニング後も残存した。

この規模には重要な意味がある。フィンガープリントが多ければ多いほど、統計的な信頼度が高まり、モデルの出自を検証する機会が増え、モデルが複製・配布される過程での耐性も強くなる。

しかし、規模は問題の半分にすぎない。より難しい問題は、誰かが積極的にこれらのフィンガープリントを除去しようとしたとき、それらがなお残存できるかどうかだ。

Sentient、自社手法を含むモデルフィンガープリントの突破を試みる

Sentient Labsの最新の研究は、既存の多くのモデルフィンガープリント技術や透かし技術が、高度な攻撃に対して依然として明確な脆弱性を持つことを示している。

SaTML 2026で発表された研究では、Sentientの研究者らが、最近提案された10種類のモデルフィンガープリント手法に対して適応型攻撃を設計した。その結果、十分に高度な攻撃者は、モデルの実用性を維持したまま、これらのほぼすべての手法を回避できることが判明した。

その中には、Sentient自身のPerinucleus手法も含まれている。

Sentientはこれらの弱点を隠すのではなく、研究結果を公表することを選んだ。

Fingerprinting Leaderboardの目標は、この敵対的テストのプロセスをオープンな評価ベンチマークへと転換することにある。最初のバージョンは主に、さまざまな技術がモデル性能を低下させることなくフィンガープリントを効果的に埋め込めるかどうかを評価する。今後公開される後続バージョンでは、敵対的ロバスト性の評価も追加され、フィンガープリントが意図的な除去・回避攻撃に直面した際にどの程度残存できるかが検証される。

目標はシンプルだ。モデルフィンガープリントは、研究ベンチマークで良い成績を収めるだけでなく、それを積極的に破壊しようとする攻撃にも耐えられるべきである。

研究コミュニティへのテスト公開

Fingerprinting Leaderboardと同時に、Sentientはオープンソースのmlprintsツールライブラリも公開した。このツールライブラリは、さまざまなモデルフィンガープリント技術とその攻撃手法を統一された評価フレームワークに統合するものだ。

研究者はこのフレームワークを利用して、新しいフィンガープリント手法の実装、新しい攻撃手法の開発、既存の研究結果の再現、そして統一されたテスト条件下での異なる技術の性能比較を行うことができ、分野全体の継続的な発展を後押しできる。

Fingerprinting Leaderboardは研究コミュニティとともに進化し、モデルフィンガープリント技術の研究をオープンなテスト環境へと転換していく。そこでは、技術のロバスト性に関するいかなる主張も、研究者自身の結論だけに頼るのではなく、独立した検証を受けることができる。

モデルをオープンにしつつ、所有権を保持する

モデルフィンガープリント技術は、オープンソースAIが直面する大きな難題の解決に寄与することが期待されている。

現在、開発者は多くの場合、2つの選択肢の間でトレードオフを迫られている。モデルの重みを非公開にしてモデルへの制御を維持するか、それともモデルの重みを公開する代わりに、モデルがどのように複製・再利用されるかについての可視性を失うか、である。

モデルフィンガープリント技術は、第三の可能性を提供する。

それはモデルの複製を阻止しようとするのではなく、複製が起きた後も、モデルの出自を証明できる証拠を保持するというものだ。これらの証拠は将来、出自の帰属認定、ライセンスの執行、経済的権益の保護、その他検証可能なモデル出自を基盤として構築される仕組みの支援に活用できる。

モデルの出自を検証可能にすることで、Sentientのモデルフィンガープリント研究とFingerprinting Leaderboardは、よりオープンなAIエコシステムの構築を目指している。そのエコシステムでは、モデルを自由に共有し、他の開発者がさらなるイノベーションに活用できる一方で、元のクリエイターは技術の出自を証明する能力を自動的に放棄する必要がない。

より長期的な目標は、さらに挑戦的なものだ。モデルフィンガープリントをモデル自身の能力と深く結びつけ、フィンガープリントを除去しようとするいかなる試みも、同時にモデル自体の能力を損なうようにすることである。

知的財産は、証拠をもって証明される。あなたのモデルを知ろう。

詳細はこちら:https://fingerprint.sentient.foundation

Sentient Foundationについて

Sentient Foundationは、汎用人工知能(AGI)がオープンソースであり続け、人類の利益と価値観に沿ったものであり続けることを確保することに取り組む非営利団体である。

同財団は中立性と透明性を中核原則とし、オープンソースAGIの世界的な普及を推進し、AIアライメントと安全基準を提唱し、世界中の開発者に助成金を提供し、責任あるAI開発のためのガバナンス枠組みの構築を調整している。

メディアのお問い合わせ先:marketing@sentient.foundation

公式サイト:https://sentient.foundation

X:https://x.com/sentient_found

LinkedIn:https://www.linkedin.com/company/sentient-foundation/

Sentient Labsについて

Sentient Labsは、Sentient Foundation傘下で技術研究と製品開発を担当する機関である。

Sentient Labsは、推論、AIアライメント、マルチエージェント協調の分野における最先端の応用研究を推進し、ROMA、OML、Arenaなどのオープンソースフレームワークとモデルを開発して、コミュニティ主導型AIの可能性を示している。

その活動には、オープンソースツールの商業化の支援、エコシステム全体にわたる協調を通じたオープンソースAIエコシステムの質と実用性の向上、そしてオープンソースをAI分野のデフォルト標準にするために必要な配布チャネルの提供も含まれる。

公式サイト:https://sentient.xyz

X:https://x.com/sentientAGI

LinkedIn:https://www.linkedin.com/company/sentientagi/

共有先:

著者:项目动态

本記事はPANews入駐コラムニストの見解であり、PANewsの立場を代表するものではなく、法的責任を負いません。

記事及び見解は投資助言を構成しません

画像出典:项目动态。権利侵害がある場合は著者へ削除をご連絡ください。

PANews公式アカウントをフォローして、強気・弱気相場を一緒に乗り越えましょう
PANews APP
楽天ウォレットが新アプリをリリース、暗号資産の現物取引と証拠金取引を統合
PANews 速報