PANews 11月4日付ニュース、IT之家の報道によると、Anthropicは「FlashProve」という名称のオープンソースシステムを開発している。暗号学的証明によって、あるAI出力がどのモデルによって生成されたかを検証する。このシステムは「証明可能な推論」の実現を目指すもので、ユーザーに数学的な保証を提供し、受け取った回答が確かに自分が使用していると認識しているモデルから出たものであることを確認できるようにし、あるモデルを別のモデルに偽装する行為にも対抗する。
FlashProveの仕組みは暗号化された電子メール署名に似ており、各モデルに重みを漏らさない「指紋」を提供し、その後、特定の出力と照合して検証する。研究者によると、このシステムはAI企業が密かに安価なモデルに切り替えることや、企業がより高価なモデルに切り替えてテスト結果を水増しすることを防ぐことが期待でき、さらに、あるタスクが先進的なモデルによって完了されたという第三者の主張を検証することもできる。システムは軽量に設計されており、ユーザーはローカル端末で検証を完了できる。Anthropicは技術仕様と実行可能なコードを公開しており、コードはGitHub上でオープンソースライセンスのもと公開されている。研究は現在も進行中で、Anthropicはこのシステムの展開をまだ計画していない。
