기자：저우유，중국신문주간
편집：두웨이
운영 편집：왕린
현지 시간 9월 11일, 테렌스 타오, 덩위를 포함한 25명의 필즈상 수상자가 공동으로 《인공지능의 수학에서의 심각한 부조화》 성명을 발표하며 OpenAI, Anthropic 등 AI 기업과 수학계 간의 ‘대전’을 절정으로 몰아갔다. 성명은 AI 기업들이 수학 난제 해결을 모델 성능 기준으로 삼는 방식이 수학 과학 자체와 수학계에 피해를 입히고 있으며, 수학 공동체가 추구하는 개념 이해라는 근본 목표와 현저한 차이를 빚고 있다고 지적했다.
이러한 차이는 최근 더욱 뚜렷해지고 있다. 9월 8일, OpenAI는 자사의 공개되지 않은 내부 AI 모델이 88시간 만에 나비에-스토크스 방정식(N-S 방정식)의 존재성과 매끄러움 문제를 해결했다고 주장했다. N-S 방정식은 유체 운동을 설명하는 핵심 방정식으로, 일기 예보, 항공기 설계 등 다양한 분야에 널리 사용된다. 미국 클레이 수학연구소(CMI)는 2000년에 이 방정식의 존재성과 매끄러움 문제를 7대 밀레니엄 난제 중 하나로 선정하고 100만 달러의 상금을 걸었다.
그러나 뉴욕대학교 수학자 트리스탄 버크마스터와 Anthropic 연구원 레벤트 알퍼그는 이미 관련 문제에 대해 중요한 진전을 이루었고, 9월 7일에 결과를 공개했다. 버크마스터는 이후 OpenAI를 비난하며, 자신들의 진전 소식을 듣고 나서야 OpenAI가 투자를 늘렸다고 주장했다. 그는 자신이 미발표 초고와 유도 과정을 OpenAI의 코드 도구에 사용한 적이 있으며, OpenAI의 모델이 이를 ‘도용했을까’ 의심한다고 밝혔다. OpenAI 측은 이 주장을 부인했지만, 사용자 데이터가 모델 훈련에 간접적인 역할을 했을 가능성을 완전히 배제할 수는 없다고 인정했다. 현재 OpenAI는 CMI 상금을 신청할 계획이 없다. 수학계는 아직 OpenAI의 증명에 대해 공식적인 인정을 내리지 않았다.
OpenAI의 이러한 방식은 학술 우선권, 데이터 윤리 및 AI 연구 경계에 대한 격렬한 논쟁을 빠르게 촉발했다. 올해 5월 이후로 여러 수학 난제가 AI에 의해 돌파되었으며, OpenAI는 최근 또 다른 밀레니엄 난제인 호지 추측으로 시선을 돌렸다고 밝혔다.
AI는 인간 수학의 ‘등대’를 끊임없이 꺼뜨리고 있다. 스위스 제네바 대학교 교수 스타니슬라프 스미르노프는 2010년 필즈상 수상자이자 성명의 25명의 서명인 중 한 명이다. 9월 12일, 그는 《중국신문주간》의 단독 인터뷰에 응했다.
스타니슬라프 스미르노프 사진/영상 캡처
“땅을 파는 인부가 굴착기로 대체되는 것에 불평하는 것과 같다”
《중국신문주간》: 성명이 초안 작성부터 발표까지 며칠밖에 걸리지 않았습니다. 이렇게 긴박했던 주된 이유는 무엇입니까?
스미르노프: 대부분의 동료들은 이 일이 이렇게 빠르게 진행될 줄, 또 이렇게 큰 논란을 불러일으킬 줄 예상하지 못했습니다. AI의 발전이 매우 빠르다는 점을 감안할 때, 우리는 지금 신속하게 행동하여 미래 지향적인 규칙을 마련해야 합니다.
《중국신문주간》: 성명은 ‘심각한 편향’이라는 단어를 사용했습니다. AI 기업의 수학적 목표와 수학계 자체가 지향하는 수학적 목표 사이에는 어떤 근본적인 차이가 있습니까?
스미르노프: 먼저 우리가 답해야 할 질문은 사회가 수학 연구를 지원하는 목적이 무엇인가입니다. 수학은 음악, 예술과 마찬가지로 인류 문화의 중요한 구성 요소이자 많은 다른 학문과 기술의 기초입니다. 많은 수학자에게 수학의 문화적, 예술적 가치가 가장 중요합니다.
휴대폰, 비행기에서 머신러닝 자체에 이르기까지 수학이 낳은 많은 사회적 응용은 처음에는 과학의 아름다움을 추구하기 위해 창조되었습니다. 지금까지 AI 기업들이 수학을 대규모 모델의 능력을 측정하는 지표로 사용하는 것은 이해할 수 있습니다. 이러한 모델들은 매우 강력해져서 적절한 평가 기준을 찾기가 어려워졌습니다. 그러나 현재의 평가 방법은 종종 유명한 추측에 대한 장황한 증명을 산출하는 데 치중하며, 이러한 추측을 탐구하는 과정에서 나타날 수 있는 아이디어가 더 중요할 수도 있습니다.
두 친구가 저에게 말한 적이 있습니다. 수학자들이 AI 증명에 대해 불평하는 것은 마치 땅을 파는 인부가 굴착기로 대체되는 것에 불평하는 것과 같다고요. 저는 이 비유를 오히려 고고학 발굴 현장에 적용하는 것이 낫다고 생각합니다. 굴착기는 확실히 더 빠르지만 귀중한 유물을 손상시킬 수 있습니다. 이러한 유물들은 훨씬 느리게 작업하는 인부들이 발굴한다면 잘 보존될 것입니다.
《중국신문주간》: OpenAI의 N-S 방정식에 관한 성명은 많은 논란을 불러일으켰습니다. 버크마스터는 OpenAI가 자신의 팀이 진전을 이루었다는 소식을 듣고 나서야 모델을 가동하여 ‘선제대응했다’고 주장합니다. 이러한 사건에 대해 어떻게 생각하십니까?
스미르노프: 우리는 이미 일부 대규모 모델이 저자를 명시하지 않고 타인의 아이디어를 도용하거나, 발표되지 않은 아이디어를 사용하는 사례를 목격했습니다. 만약 인간 수학자였다면 이는 학술 윤리에 대한 심각한 위반으로 간주될 것입니다. 어떤 이들은 AI가 인간을 도용하는 것이 용인될 수 있다고 생각하지만, 저는 이 의견에 동의하지 않습니다.
그러나 현재 더 중요한 문제는 다양한 집단과 개인이 이에 대해 완전히 다른 견해를 가지고 있다는 점입니다. 우리는 실제로 이러한 갈등을 해결하기 위한 새로운 규칙을 마련해야 합니다. AI의 추가 발전은 그 작동 방식에 중대한 변화를 초래할 수 있으므로, AI에 대한 우리의 이해도 지속적으로 수정되어야 한다는 점을 인식해야 합니다. 긍정적인 관점에서 보면, 우리는 모든 이해관계자 간의 대화와 균형을 모색할 수 있지만, 이를 위해서는 노력이 필요합니다.
《중국신문주간》: 성명은 AI를 배제하지 않으며, AI가 수학 연구를 지원하고 가속화할 잠재력이 있다는 점을 인정합니다. 수학 연구에 이상적인 AI 도구는 어떤 모습이라고 생각하십니까?
스미르노프: AI는 알려진 정보를 이해하고, 실험을 수행하며, 기존 방법이 현재 문제를 해결할 수 있는지 검토하는 데 매우 능숙합니다. 그러나 새로운 방법의 효과를 판단하거나 진정으로 참신한 아이디어를 제시하는 데는 능숙하지 않습니다. 하지만 그 수준은 빠르게 향상되고 있으며, 앞으로 몇 년 안에 우리는 전통적인 연구 방법을 조정해야 할 것 같습니다. 그러나 저는 AI가 과학과 사회뿐만 아니라 AI 기업 자체의 발전에도 도움이 되는 다양한 용도를 찾을 수 있을 것이라고 확신합니다.
권리 평등은 아직 오지 않았다
《중국신문주간》: 최근 AI 주도의 수학적 돌파 중에서 가장 놀라웠던 구체적인 진전은 무엇입니까? 왜 그렇게 우려스럽습니까?
스미르노프: 지금까지 제가 특별히 놀랄 만한 것은 보지 못했습니다. 제가 진정으로 관심을 가지는 몇몇 문제들은 여전히 AI의 능력 범위를 벗어나는 것 같습니다. 제가 가장 우려하는 것은 증명을 도출하는 데만 지나치게 집중하고 연구 대상을 이해하는 데는 소홀히 하는 것이며, 이는 과학 자체와 잠재적 응용 모두에 해를 끼칠 수 있다는 점입니다.
《중국신문주간》: 학생들이 AI로부터 직접 증명을 얻을 수 있다면, 충분한 수학 훈련을 받을 수 있을까요? 어려움에 부딪히고 고군분투하며 결국 스스로 답을 찾는 과정은 여전히 중요합니까?
스미르노프: 경험이 풍부한 연구자에게도 AI는 큰 피해를 줄 수 있습니다. 제 학자 친구 한 명은 1년 동안 AI를 사용하여 수업 연습 문제와 답안을 생성한 후, 자신이 학생 수준의 관련 문제를 해결하는 능력이 매우 떨어졌음을 발견했다고 털어놨습니다. 저는 대부분의 학생들이 이러한 위험을 인지하고 있으며, 스스로 문제를 해결하려고 노력하고 AI는 단지 힌트로만 사용한다는 것을 알게 되었습니다.
《중국신문주간》: AI가 대규모로 수학적 결론을 생산할 수 있다면, 인간 수학자 작업의 의미는 무엇입니까? 인간이 이러한 결론을 소화하는 속도가 수학 발전의 새로운 병목 현상이 될까요?
스미르노프: AI가 현재 문제를 연구하고 돌파하는 방식은 특정 형식에 더 치우쳐 있습니다. 아마도 최종 결과는 이해될 수 있겠지만, 누가 이해할까요? 한 가지 가능성은 우리가 AI가 생성한 텍스트에서 아이디어를 발굴하는 완전히 새로운 과학 작업의 탄생을 목격하고 있다는 것입니다. AI 자체가 정말로 새로운 아이디어를 생성할 수 있을까요? 현재로서는 그렇지 않다고 봅니다만, 확실히 말할 수는 없습니다.
《중국신문주간》: AI를 사용하여 수학 증명을 생성할 때, 선행 연구에 대한 적절한 인용이 더 어려워지지 않습니까? 장기적으로 볼 때, 이것이 인류 지식의 연속성 단절로 이어질 수 있습니까?
스미르노프: 원칙적으로 그렇습니다. 특히 인간이 AI 증명을 이해할 수 없을 때 더욱 그렇습니다. 그러나 우리가 이를 피할 방법을 찾고 좋은 인간-기계 협력 방식을 찾는다면, AI는 오히려 매우 유용한 도구가 될 수 있습니다.
저는 AI를 제 연구 문제에 적용해 보려고 시도했지만, 현재 최고 수준의 모델들은 여전히 그다지 실용적이지 않은 것 같습니다. 아마도 몇 가지 핵심적인 이해가 부족하기 때문일 것입니다. 하지만 AI는 특정 분야의 알려진 정보를 검색하거나 기사를 교정하는 데 탁월한 도구입니다.
《중국신문주간》: 어떤 사람들은 최근 발생한 일련의 사건들이 AI 지식 평등권의 필연적인 결과라고 생각할 수도 있습니다. 어떻게 생각하십니까?
스미르노프: 저는 아직 평등이 많이 이루어졌다고 보지 않습니다. 대부분의 진전은 공개되지 않은 모델을 사용하여 이루어졌습니다. 사실, AI 기업이 모든 것을 스스로 하려고 하기보다는 수학자들과 자원을 공유한다면 상황이 훨씬 나아질 수 있습니다. 저는 이것이 곧 실현될 수 있다고 믿습니다. AI 기업과 수학자 사이에 결국 어떤 합의가 이루어질 것이며, 평등도 그와 함께 도래할 것입니다.
