数学が破壊されている？25人が連名で警告、フィールズ賞受賞者が独占回答

記者：周游、中国新聞週刊

編集者：杜瑋

運営編集者：王琳

現地時間9月11日、テレンス・タオ、鄧煜を含む25名のフィールズ賞受賞者が連名で『人工知能の数学における深刻な不一致』と題する声明を発表し、OpenAIやAnthropicなどのAI企業と数学界との間の「大戦争」を頂点に押し上げた。声明は、AI企業が数学の難問を解決することをモデルの能力ベンチマークとする手法が、数学科学そのものと数学界に損害を与えており、数学コミュニティが追求する概念的理解という根本目標と著しく乖離していると主張している。

この乖離は最近ますます顕著になっている。9月8日、OpenAIは、未公開の内部AIモデルが88時間でナビエ・ストークス方程式（N-S方程式）の存在性と滑らかさの問題を解決したと発表した。N-S方程式は流体の運動を記述する中核的な方程式であり、天気予報や航空機設計などの分野で広く応用されている。アメリカのクレイ数学研究所（CMI）は2000年にこの存在性と滑らかさの問題を7つのミレニアム懸賞問題の一つに指定し、100万ドルの賞金を懸けている。

しかし、ニューヨーク大学の数学者トリスタン・バックマスター氏とAnthropicの研究員レヴェント・アルパーグ氏は、これに関連する問題で既に重要な進展を遂げており、9月7日に成果を公開していた。バックマスター氏はその後OpenAIを非難し、OpenAIが自分たち（バックマスター氏のチーム）の進展を聞いてからリソースを投入したと主張している。同氏は、自身が未発表の草稿や導出をOpenAIのコードツールで使用していたことを明かし、OpenAIのモデルに「盗み見られた」のではないかと疑っている。OpenAI側はこの主張を否定したが、ユーザーデータがモデル訓練において間接的な役割を果たす可能性を完全には排除できないと認めている。現在、OpenAIはCMIの賞金を申請する予定はない。数学界はまだOpenAIの証明を正式に承認していない。

OpenAIのやり方は、学術的な優先権、データ倫理、AIによる科学研究の境界をめぐる激しい論争を瞬く間に引き起こした。今年5月以来、複数の数学の難問がAIによって攻略されており、OpenAIは最近、別のミレニアム懸賞問題であるホッジ予想に目を向けたことを明らかにした。

AIは人間の数学の「灯台」を次々と消しつつある。スイス・ジュネーブ大学教授のスタニスラフ・スミルノフ氏は2010年のフィールズ賞受賞者であり、声明の25名の署名者の一人でもある。9月12日、同氏は『中国新聞週刊』の独占インタビューに応じた。

スタニスラフ・スミルノフ図・動画キャプチャ

「穴掘り作業員が掘削機に取って代わられたと不平を言うようなもの」

『中国新聞週刊』：声明は起草から発表までわずか数日でしたが、このような緊急性の主な理由は何ですか？

スミルノフ：ほとんどの同業者は、事態がこれほど急速に進展するとは、またこれほど大きな論争を引き起こすとは予想していませんでした。AIの進歩が非常に速いことを考慮すると、私たちは今すぐに行動し、未来を見据えたルールを策定する必要があります。

『中国新聞週刊』：声明では「深刻な乖離」という言葉が使われていますが、AI企業の数学的目標と数学界自身が掲げる数学的目標との間には、どのような根本的な相違があるのでしょうか？

スミルノフ：まず私たちが答えなければならない問いは、社会が数学研究を支援する目的は何か、ということです。数学は音楽や芸術と同様に、人類文化の重要な構成要素であり、他の多くの学問や技術の基盤でもあります。多くの数学者にとって、数学の文化的・芸術的価値が最も重要です。

携帯電話、飛行機から機械学習そのものに至るまで、数学が生み出した多くの社会的応用は、当初は科学の美しさを追求するために創造されました。これまで、AI企業が数学を大規模モデルの能力を測る指標としてきたことは理解できます。これらのモデルは非常に強力になり、適切な評価基準を見つけることが難しくなっています。しかし、現在の評価方法は、しばしば有名な予想の長大な証明を産出することにあり、これらの予想を探求する過程で生まれるかもしれない思想の方が、おそらくより重要です。

かつて二人の友人が私に、数学者がAIの証明に不平を言うのは、まるで穴掘り作業員が掘削機に取って代わられたと文句を言うようなものだと言いました。私はむしろ、この比喩を考古学的発掘の場面に当てはめるべきだと思います。掘削機の方が確かに速いですが、貴重な遺物を破壊する可能性があります。これらの遺物は、はるかに作業速度の遅い作業員の集団によって発掘されれば、しっかりと保存されるでしょう。

『中国新聞週刊』：OpenAIによるN-S方程式に関する声明は多くの論争を引き起こしました。バックマスター氏は、OpenAIが自身のチームの進展を知った後に、モデルを動員して「先取りする」したと主張しています。このような出来事をどのようにお考えですか？

スミルノフ：私たちは、いくつかの大規模モデルが、著者を明記せずに他人のアイデアを流用したり、未発表のアイデアを使用しているのを目撃しています。もし人間の数学者であれば、これは学術倫理の重大な違反とみなされるでしょう。AIによる人間の盗作は許容されると考える人もいますが、私はその意見に同意しません。

しかし、現在より重要な問題は、異なる集団や個人がこれに対して全く異なる見解を持っていることです。私たちは確かに、このような衝突を解決するための新しいルールを策定する必要があります。AIのさらなる発展は、その動作方法に重大な変化をもたらす可能性があり、したがってAIに対する私たちの理解も絶えず修正する必要があることを認識すべきです。前向きに見れば、私たちはすべての利害関係者間の対話とバランスを模索することができますが、それには努力が必要です。

『中国新聞週刊』：声明はAIの排除を提唱しておらず、AIが数学研究を支援し加速させる可能性を認めています。あなたが理想とする数学研究に適したAIツールとはどのようなものですか？

スミルノフ：AIは、既知の情報を理解し、実験を行い、既存の方法が現在の問題を解決できるかどうかを検証することに非常に優れています。しかし、新しい方法の有効性を判断したり、真に斬新なアイデアを提案したりすることにはあまり優れていません。とはいえ、その水準は急速に向上しており、今後数年で従来の研究方法を調整せざるを得なくなると見積もっています。しかし、私たちが人工知能の多くの用途を見つけられると確信しています。それらの用途は科学や社会に貢献するだけでなく、AI企業自身の発展にも役立つでしょう。

知識の平等化はまだ到来していない

『中国新聞週刊』：最近AI主導で達成された数学的ブレイクスルーのうち、どの具体的な進展が最も驚かされましたか？なぜそれがそれほど憂慮すべきなのでしょうか？

スミルノフ：今のところ、特に驚かされるものはありません。私が本当に興味を持っている問題のいくつかは、依然としてAIの能力範囲を超えているように思われます。私が最も懸念しているのは、研究対象を理解することよりも証明を得ることに重点が置かれすぎていることであり、このことが科学そのものとその潜在的な応用の両方に損害を与える可能性があることです。

『中国新聞週刊』：もし学生がAIから直接証明を得られるようになったら、彼らは十分な数学的訓練を受けられるのでしょうか？困難に直面し、苦闘し、最終的に自分で答えを見つけるというプロセスは、もはや重要ではないのでしょうか？

スミルノフ：経験豊富な研究者にとっても、AIは大きな損害を与える可能性があります。私の学者の友人の一人は、この1年間AIを使って授業の問題と解答を作成していたところ、学生レベルの関連問題を解く能力が著しく低下したことを認めています。ほとんどの学生はこのリスクを認識しており、自分で問題を解決しようと試み、AIは単なるヒントとしてのみ使用していると私は感じています。

『中国新聞週刊』：もしAIが大規模に数学的結論を生産できるようになったら、人間の数学者が研究する意義は何でしょうか？人間がこれらの結論を消化する速度が、数学の進歩における新たなボトルネックになるのでしょうか？

スミルノフ：AIが現在問題を研究し突破する方法は、より形式的なものに偏っています。おそらく最終的な結果は理解可能かもしれませんが、誰が理解するのでしょうか？一つの可能性として、私たちは全く新しい科学的研究の誕生、すなわちAIが生成したテキストからアイデアを掘り起こす作業を目撃しているのかもしれません。AI自体が本当に新しいアイデアを生み出せるのでしょうか？現時点ではそれは否定的ですが、確かなことは言えません。

『中国新聞週刊』：AIを使って数学的証明を生成する場合、先行研究の適切な引用はより困難になるのでしょうか？この状態が長く続くと、人類の知識の連続性が断絶することにつながるのでしょうか？

スミルノフ：原理的にはその通りであり、特に人間がAIの証明を理解できない場合にはそうです。しかし、もしこの状況を回避する方法を見つけ、良好な人間と機械の協働方法を見つけることができれば、AIはむしろ非常に有用なツールになり得ます。

私は自身の研究課題にAIを応用しようと試みましたが、現時点で最も先進的なモデルはまだあまり実用的ではないようです。おそらく、いくつかの重要な理解が欠けているからでしょう。とはいえ、AIは特定の分野の既知の情報を検索したり、記事を校正したりするための優れたツールです。

『中国新聞週刊』：最近起きている一連の出来事は、AIによる知識の民主化の必然的な結果だと考える人もいるかもしれません。どのようにお考えですか？

スミルノフ：私はまだ平等化をあまり見ていません。ほとんどの進展は、公開されていないモデルを利用して達成されています。実際、AI企業が何でも自分たちでやろうとするのではなく、数学者とリソースを共有できれば、状況ははるかに良くなるでしょう。これはすぐに実現できると信じています。AI企業と数学者の間でいつか何らかの合意に達し、平等化もそれに伴って訪れるでしょう。