2026년 9월 11일, 25명의 필즈상 수상자가 공동 서한을 발표했습니다. 이들은 인공지능(AI) 기업들이 수학 난제 해결을 단순한 연산력 과시용 척도로 취급하는 행태가 학계의 장기적인 지향점과 심각하게 충돌하고 있다고 지적했습니다. 엿새 후, 동료 필즈상 수상자인 팀 가워스(Tim Gowers)가 서명을 거부한 이유를 공개적으로 밝히면서, 그동안 수면 아래 감춰져 있던 수학계 내부의 깊은 갈등이 수면 위로 드러났습니다.
이미지: 파리 6구의 한 서점 지하실에 보관된 알렉산더 그로텐디크의 미공개 육필 원고 아카이브. 출처: David Bessis의 ‘The fall of the theorem economy’
4천만 달러에 매매되는 100년의 반례
거대 기술 기업들의 연산력 덤핑 공세 속에서, 수학적 난제를 해결하는 일은 명확한 가격표가 붙은 거래로 전락했습니다. 매스오버플로(MathOverflow) 커뮤니티의 이용자들이 계산기를 두드렸습니다. 최근 공개된 나비에-스토크스(Navier–Stokes) 방정식의 반례를 선점하기 위해 주요 기관들이 투입한 연산 비용은 천문학적이었습니다. 캐피털앤컴퓨트(Capital&Compute)가 추산한 금액은 650만 달러였고, 텐서피드(TensorFeed)가 제시한 구간은 1,000만 달러에서 1,500만 달러 사이였습니다. 비즈니스 인사이더(Business Insider)의 단독 보도에 따르면 실제 투입된 비용은 무려 4,000만 달러에 달했습니다. 100년 묵은 반례 하나의 최초 발견권을 확보하기 위해 수천만 달러를 쏟아붓는 자본의 발견권 싹쓸이가 학계의 규칙을 완전히 바꿔놓았습니다.
아직 풀리지 않은 난제들은 하늘에서 저절로 떨어진 무주공산이 아닙니다. 수세대에 걸친 위대한 수학자들이 개념을 정돈하고, 단순화하여 공유해 온 지혜의 결정체입니다. 그러나 AI 기업들은 이를 깃허브(GitHub)의 오픈소스 코드처럼 다루며, 자사 모델의 성능을 시험하기 위한 값싼 원자재로 취급하고 있습니다. 모델들은 가장 눈에 띄는 해결권이라는 영예를 가로채고, 학계에는 목표를 잃어버린 황무지만 남겨놓았습니다.
AI로 인해 증명 과정은 연산 시간에 비례해 도매로 구매할 수 있는 상품이 되었습니다. 이에 따라 수학계의 진정한 희소 자원은 단순한 증명 도출 능력에서 다른 곳으로 이동했습니다. 바로 ‘어떤 질문을 던질 것인가’와 ‘그 답을 어떻게 깊이 이해할 것인가’라는 두 가지 과제로 옮겨간 것입니다. 문제는 현재의 학술 및 경제 체제 아래에서는 훌륭한 질문의 제시나 개념적 이해에 대해 정당한 보상을 매길 방법이 없다는 점입니다.
동료의 서명 거부가 드러낸 가치관의 균열
‘수학 분야에서 AI의 심각한 가치 불일치(A Severe Misalignment of AI in Mathematics)‘라는 제목의 공동 서한은 공개 직후 학계 전반에 거센 파장을 일으켰습니다. 서한의 핵심 논지는 문제 해결이란 개념적 이해에 도달하기 위한 도구에 불과하며, AI 환경에서 이를 망각한다면 기계가 인류의 궁극적인 지적 목표를 훼손할 것이라는 경고였습니다. 하지만 개념적 이해만을 절대적인 가치로 치켜세우는 이러한 시각은 학계 내부의 다른 진영으로부터 반발을 샀습니다.
팀 가워스는 블로그를 통해 서명을 거부한 이유를 조목조목 밝혔고, 해당 글은 테렌스 타오(Terence Tao)의 홈페이지에도 전재되었습니다. 해커뉴스(Hacker News)에서는 186점의 추천 수에 242개의 댓글이 달리며, 댓글 수가 점수의 1.3배를 넘는 극히 뜨거운 찬반 토론이 벌어졌습니다. 가워스는 수학계가 위기에 처해 있다는 점은 인정하면서도, 개념적 이해만이 유일하게 올바른 지향점이라는 주장에 정면으로 반대했습니다.
가워스는 25년 전 자신이 발표했던 저명한 논문 ‘수학의 두 가지 문화(The Two Cultures of Mathematics)‘를 인용하며 반박했습니다. 그는 수학계 내부에 언제나 두 부류의 연구자가 존재해 왔다고 설명했습니다. 한쪽은 문제 해결 자체를 동기로 삼는 이들이고, 다른 한쪽은 이론과 개념적 이해를 구축하는 데서 동기를 얻는 이들입니다. 이번 서한의 어조는 난제를 푸는 즐거움을 추구하는 연구 방식을 일방적으로 열등한 것으로 규정하고 있었습니다. 연산력이 문제 해결자들의 가치를 크게 떨어뜨린 상황에서, 방어적 태도는 결국 학문적 헤게모니 쟁탈전으로 변질되었습니다.
이미지: 필즈상 수상자 25인이 서명한 공동 서한 ‘A Severe Misalignment of AI in Mathematics’ 웹페이지. 출처: mathandai.org
캠브리지 연구팀이 마주한 가혹한 교훈
가워스의 입장은 단순한 이론적 사유에서 나온 것이 아니었습니다. 그는 오픈AI(OpenAI)와의 실제 관계를 투명하게 공개했습니다. 그는 외부 전문가 자격으로 오픈AI 최신 모델에 대한 사전 접근권과 무료 프로 계정을 제공받고 있었습니다. 다만 오픈AI로부터 어떠한 연구 자금도 지원받은 적은 없다고 강조했습니다. 단 며칠간의 사전 접근권만으로도 기술 발전이 지닌 파괴적인 속도를 체감하기에는 충분했습니다.
그는 캠브리지 대학교에서 자동 정리 증명 연구 그룹을 이끌고 있습니다. 그들의 본래 목표는 기계의 보조를 받아 인간 수학자가 새로운 수학적 구조를 발견하도록 돕는 것이었습니다. 하지만 현재의 최첨단 거대 모델들은 연구팀이 공들여 설계한 이론적 경로를 우회하여, 막강한 연산력과 계산 기법을 동원해 곧바로 증명을 내놓았습니다. 가워스는 연구 그룹의 존재 이유가 사라졌음을 인정하며, 구성원 모두가 이 뼈아픈 교훈을 받아들여야 했다고 털어놓았습니다.
일반에 공개된 최상위 모델들조차 이미 개별 문제 해결 능력에 있어서는 거의 모든 인간 수학자를 능가하고 있습니다. 인간의 뇌가 소화할 수 있는 속도를 한참 뛰어넘는 분량의 증명이 화면 위로 쏟아져 나옵니다. 이러한 엄청난 계산량 앞에서 수학적 지식의 교류는 사용자가 화면에 ‘감사합니다’라는 인사 한마디를 입력하는 수준으로 퇴색하고 맙니다. 인간의 인지 정보 처리 대역폭의 한계가 이해의 확산을 가로막는 물리적 장벽이 된 것입니다.
순수한 이해에 비용을 지불하지 않는 사회
공동 서한에는 매우 취약한 논리가 포함되어 있었습니다. 설령 증명을 찾아내는 작업이 더 이상 수학자의 몫이 아니게 되더라도, 사회는 전문 연구자 집단을 유지해야 하는 가치를 증명할 체계를 마련해야 한다는 주장이었습니다. 이 방어선은 해커뉴스 댓글 창에서 산산이 부서졌습니다. 비판자들은 피할 수 없는 두 가지 질문을 던졌습니다. “구체적인 해법을 내놓지 못하는 집단에게 사회가 왜 연구비를 지원해야 하는가?”, “신진 연구자들의 종신 재직권 심사 기준은 어떻게 세울 것인가?”
전통적인 학술 체계는 논문 출판과 난제 해결이라는 명확한 결과물을 바탕으로 세워졌습니다. 박사과정 연구생이 5년 동안 매달려 작은 정리 하나를 증명하려 애쓰는 사이, 상용 모델이 5분 만에 결과를 뽑아낸다면 기존의 학술 훈련은 현실적인 존립 근거를 잃게 됩니다. 이는 개별 연구자의 밥그릇 문제를 넘어, 학계 인재 양성 시스템 전체의 기반을 무너뜨리는 위기입니다.
순수한 개념적 이해를 측정 가능한 평가지표로 전환하는 제도가 없다면 연구비 배분 시스템은 작동 불능에 빠집니다. 가워스는 하나의 극단적인 사고실험을 제안하기도 했습니다. 국제 협약을 통해 더 강력한 추론 모델의 출시를 금지하고, 학술 기관들이 기계가 풀어도 되는 문제를 직접 지정하자는 구상이었습니다. 하지만 이러한 비현실적인 규칙 제안 자체가 거대 자본의 공세 앞에서 학계가 느끼는 깊은 무력감을 역설적으로 보여줍니다.
문제를 푸는 것보다 숨기는 것이 안전한 현실
체제 붕괴의 압박은 연구자들을 본능적인 방어 기제로 몰아가고 있습니다. 매스오버플로에 올라온 한 질문 글은 5,000회 가까운 조회수를 기록했습니다. 작성자는 수학 연구가 중세의 비밀주의 시대로 퇴보할 것을 깊이 우려했습니다. 직업적 안전망을 잃어버린 연구자들은 개방적인 협력 네트워크와의 연결을 본능적으로 끊어내고 있습니다.
역사 속에서도 이와 똑같은 폐쇄의 시대가 존재했습니다. 1510년 수학자 시피오네 델 페로(Scipione del Ferro)는 삼차방정식의 해법을 발견하고도 20년 동안 그 방법을 철저히 숨겼으며, 임종 직전에야 제자 안토니오 마리아 피오르에게 비법을 전수했습니다. 그 시절에는 독점적인 해법을 쥐고 있는 것만이 자신의 직업적 생존을 지키는 유일한 방패였습니다. 훗날 아이작 뉴턴이 미적분학 이론 발표를 미루며 고트프리트 빌헬름 라이프니츠와 수년간 우선권 분쟁을 벌였던 배경도 다르지 않았습니다. 지식의 공유가 자신의 입지를 위태롭게 만들 때, 정보의 은폐는 갑옷이 됩니다.
테렌스 타오는 소셜 미디어를 통해 현재의 판도를 날카롭게 분석했습니다. 현재 수학계에서 진정으로 희소한 능력은 ‘잠재력 있는 미해결 문제를 발굴해내는 안목’입니다. 그러나 작금의 생태계에서는 어느 인간 연구팀이 특정 추측을 풀기 위해 착수했다는 소문만 돌아도, 대형 AI 모델들이 막대한 연산 자원을 집중 투입하여 인간 연구팀의 작업이 틀을 갖추기도 전에 먼저 해결해 버립니다.
이미지: MathOverflow의 ‘수학 연구가 중세의 비밀주의 시대로 회귀하는 것을 어떻게 막을 것인가’ 질문 화면. 출처: MathOverflow
지적 노동의 가치 결정권을 되찾으려는 커뮤니티
기술의 급격한 개입은 학술계의 보상 체계를 정반대로 뒤집어 놓았습니다. 훌륭한 문제를 발굴하는 행위가 결국 기계에 해결권을 넘겨주는 결과를 낳는다면, 연구 방향을 개방적으로 공유하려는 유인은 완전히 사라지고 맙니다. 좋은 아이디어를 책상 서랍 속에 꽁꽁 숨겨두는 것이 지적 투자를 보호하는 유일한 수단이 되었습니다. 이러한 고립 성향은 수백 년간 축적되어 온 열린 연구의 전통을 송두리째 흔들고 있습니다.
연산 자원을 앞세운 무분별한 싹쓸이에 맞서, 커뮤니티에서는 두 가지 실효성 있는 방어책이 논의되고 있습니다. 첫 번째 방안은 저작권법의 원칙을 차용하여 오직 인간만이 학술 논문의 저자로 이름을 올릴 수 있도록 규정하는 것입니다. 구체적인 인간의 기여도를 입증할 수 없는 논문에는 반드시 기계 생성물임을 명시하도록 강제하여, 기술 기업들이 막대한 연산력만으로 학술적 명성을 손쉽게 획득하는 통로를 차단하자는 것입니다.
두 번째 방안은 공저 논문에 사용된 시스템 프롬프트 엔지니어링과 외부 연동 모듈의 세부 사항을 포함한 전체 방법론의 전면 공개를 의무화하는 것입니다. 이러한 시스템 아키텍처는 기술 대기업들이 핵심 영업 비밀로 취급하는 부분입니다. 방법론의 완전한 공개를 강제함으로써 기업들이 우선권을 가로채는 데 따르는 숨은 비용을 크게 높여, 약탈적인 진입을 포기하도록 유도하자는 전략입니다.
필즈상 수상자 25인의 집단 항의와 비밀주의를 택한 방어적 연구자들의 움직임은, 겉모습은 다르지만 인간의 지적 노동에 대한 가치를 새롭게 정립하려는 필사적인 시도입니다. 논쟁의 초점은 이제 ‘AI 모델이 수학 문제를 얼마나 잘 푸는가’가 아니라, ‘자본의 무차별적인 잠식을 제한할 새로운 제도를 어떻게 마련할 것인가’로 옮겨갔습니다. 제도적 보호막 없이 연산력 덤핑이 연구 경로를 짓밟도록 방치한다면, 다음 세대 인간 학자들의 성장 사다리는 통째로 무너지고 말 것입니다.
참고 링크:
- MathAndAI 공식 서한
- Tim Gowers 블로그 글
- MathOverflow 커뮤니티 게시글
