11月20日、CertiKはコロンビア大学の研究者と共同で得たTensorLeanの技術成果を公表し、世界で初めてプロダクションレベルのAI演算子の形式検証を完了した。このブレークスルーにより、数学的証明を、複雑な性能最適化を経た実際のAI計算コードに対して用いることが可能になり、大規模モデル事業者が学習速度の向上や推論コストの削減を図る際に、より厳密な正しさの保証を提供できる。
大規模モデルの学習や回答生成は、AI演算子ライブラリの低レベル計算プログラムに依存している。GPU上で動作するこれらのプログラムはGPUカーネルと呼ばれる。1箇所の誤りが、システムが通常どおり動作しながら密かに誤った結果を算出し、後続の出力に影響を及ぼし、さらには学習を想定から逸脱させる可能性がある。シナリオ試算の例でいえば、1億ドルの算力を投入した学習で、1%の計算が誤りによってやり直しになれば、100万ドルの追加費用を意味する。
形式検証の核心的価値は、数学的証明によって誤りと脆弱性を排除することにある。常規のテストは具体的なサンプルを通じて問題を探すが、形式検証は、プログラムが規定された入力と実行条件下で常に要件を満たし、検証範囲内に誤りや脆弱性が存在しないことを証明できる。
この手法をプロダクションレベルのAIコードに用いる難しさは、実際の性能最適化の扱いにある。GPUプログラムはデータを運びながら計算し、タスクの大きさに応じて実行の段取りを調整し、より低精度の演算を採用する。TensorLeanはこれらの複雑な条件を同時に扱い、プログラムがコンパイルされて生成されたPTXコードを直接検証し、計算が規定の条件と誤差範囲で要件を満たすことを証明する。すべての証明はLeanで行われ、機械で検証可能である。
TensorLean研究チームの強巍氏と楊淦翔氏は次のように述べた。「これらの複雑な最適化こそが、プロダクションレベルのAIコードが速く動く理由だ。私たちの挑戦は、こうした実際の実行条件をないがしろにすることなく証明を完成させ、厳密な検証を実用される高性能コードに適用できるようにすることにある。」
研究チームはコンパイル済みのGPUカーネル149件のインスタンスを評価し、そのうち83件が対応するLean仕様に適合することを形式証明で検証した。今回の研究は異なる世代のGPUアーキテクチャにわたり、DeepSeekのDeepGEMMと広く使われているFlashAttention演算子ライブラリを含んでいる。チームは計6つのライブラリで38件の正しさに関する問題を発見し、うちDeepGEMMが2件、FlashAttentionが23件だった。
CertiK共同創業者でコロンビア大学計算機科学科教授の顧栄輝氏は次のように述べた。「脆弱性を発見した後には、修正後のプログラムが規定の条件下で要件を満たすことを証明する必要がある。大規模モデル事業者にとって、あらゆる高速化には信頼できる正しさの根拠が伴うべきだ。私たちはこうした厳密な検証をコードのイテレーションに追従させ、計算エラーのリスクを大規模な学習と展開の前にできるだけ食い止めたいと考えている。」
この成果が大規模モデル事業者にもたらす実際的価値は、性能最適化の各ラウンドにある。代碼の更新後、開発チームは速度の向上を測定するだけでなく、検証を再実行して最適化が計算エラーを持ち込んでいないかを確認し、要件を満たすプログラムに対して機械で検証可能な証明を与えることができる。これは計算資源の浪費や学習のやり直し、誤った結果が後続の計算に流れ込むリスクの低減に役立つ。
同種の計算では既存の検証要件を再利用でき、この手法をより多くのカーネルに適用し、コードの更新に伴って繰り返し実行できるため、AI計算効率の継続的な向上により信頼性の高い基盤を提供する。
今年10月、AnthropicもClaudeを利用してオープンソースソフトウェアの数学的証明を構築する研究を公開した。TensorLeanはAI自身の低レベル計算に焦点を当て、自動化された形式検証のプロダクションレベルAIコードにおける応用価値を示している。

