리만 가설 동일 제출 사태: 940쪽 필사본과 1,700만 줄 Lean 코드의 격돌

인공지능수학

데이터 소스:Scott Aaronson + Terence Tao + Ravi Vakil

2026년 11월 21일, 지난 167년간 인류를 가로막았던 난제 리만 가설에 대해 같은 날 두 편의 해법이 동시에 제시되었다. 젊은 연구자는 인공지능 도구 Claude와 협력하여 1,700만 줄에 달하는 프로그램 코드를 제출했다. 다른 수학자는 12년간 은둔하며 작성한 940쪽 분량의 순수 수기 원고를 다급히 공개했다. 같은 날 일어난 두 해법의 충돌은 순수 수학계를 단숨에 뒤흔들었다.

이 격돌은 아무런 예고 없이 벌어졌다. 기계가 생성한 코드의 기습 발표에 밀려, 인간 연구자의 원고는 목차조차 채 완성하지 못한 채 서둘러 공개되어야 했다. 그러나 더 깊은 갈등은 증명 그 자체의 성격에서 비롯된다. 기계는 검증을 통과한 완벽한 논리 사슬을 제시했지만, 그 안에는 인간의 이해가 들어설 자리가 없었다.

일요일 심야 1,700만 줄 코드 발표, 12년 필사본의 긴급 공개로 이어지다

일요일 늦은 밤, 수학자 레벤트 알푀게(Levent Alpöge)가 코드를 공개했다. 그는 Claude를 활용해 리만 가설을 해결했으며, 이를 일반화 리만 가설(GRH)로 확장했다고 선언했다. 전체 증명은 형식 검증 언어인 Lean으로 작성되었으며, 14개의 압축 파일을 풀면 용량이 1.3GB에 달한다. 코드 분량만 약 1,700만 줄로, 거대한 도서관의 기호를 독자 앞에 한꺼번에 쏟아부은 셈이다.

알푀게 본인도 이 코드의 무게를 잘 알고 있었다. 그는 발표문에서 공개 시점이 몹시 곤혹스러웠음을 털어놓으며, 일요일 심야에 Anthropic 측에 서한을 보내 허가를 확인했다고 밝혔다. 기계가 도출한 논리는 지나치게 비대하고 장황했지만, 그는 논리적 고리가 완전히 닫혔음을 확신했다. 그는 이것이 어디까지나 초기 결과물이며, 이 거대한 증명이 곧 대폭 간소화될 것임을 인정했다.

Alpöge 발표문 원본 첫 쪽 사진: Alpöge 발표문(remark.pdf) 첫 쪽. 각주에 14개 압축 파일 주소가 기재되어 있다. 출처: alpo.ge

대양 건너편의 동료 수학자들은 이 기습 신호탄에 크게 당황했다. 스탠퍼드 대학교의 수학자 라비 바킬(Ravi Vakil)은 학회에 참석하던 중 휴식 시간을 틈타 긴급 공지를 작성했다. 독립 연구자 알레산드로 마술로(Alessandro Masullo)가 12년간 매달려 수기로 작성한 940쪽의 대작 ‘소수의 선율’을 알리기 위해서였다. 정수론의 대가 브라이언 콘래드(Brian Conrad) 역시 수개월 동안 원고를 한 쪽씩 검토하며 긍정적인 평가를 내린 상태였다.

바킬은 공지문에서 이 원고가 인공지능의 개입 없이 오직 인간의 손으로만 작성되었음을 거듭 강조했다. 스탠퍼드 대학교는 원래 마술로를 1년간 방문 연구원으로 초빙해 원고를 충분히 다듬은 뒤 공식 발표할 계획이었다. 그러나 갑작스러운 Lean 코드 발표로 계획이 어그러졌고, 연구진은 우선권 타임스탬프를 지키기 위해 당일 초고를 공개해야 했다. 워낙 서둘러 제출한 탓에 원고의 1.1.1절은 빈칸으로 남겨져 있었다.

25만 쪽 규모가 무너뜨린 인간의 한계: 14개 압축 파일을 통독할 수학자는 없다

1,700만 줄의 코드는 소프트웨어 공학에서도 거대한 규모이지만, 순수 수학에서는 전례를 찾을 수 없는 부피다. 학술지의 표준적인 2단 배열 형식으로 조판할 경우 이 분량은 약 25만 쪽에 달한다. 전문 수학자가 평생 밤낮없이 읽어나가더라도 이 천문학적인 분량을 끝까지 읽는 것은 불가능하다. 이런 규모의 결과물 앞에서는 전통적인 동료 평가 방식이 무력해질 수밖에 없다.

기계는 논리의 비약을 완벽히 제거했지만, 동시에 거대한 인지적 장벽을 세웠다. 마술로가 12년에 걸쳐 작성한 940쪽 원고도 방대하지만, 전문가들이 몇 달간 매달리면 핵심 줄기를 파악할 수 있다. 반면 알푀게가 내놓은 14개의 압축 파일은 인간의 생물학적 한계를 넘어선다. 파편화된 수많은 보조정리 속에서 전체를 관통하는 핵심 발상이 무엇인지 설명할 수 있는 사람은 아무도 없다.

Masullo 수기 원고 표지 사진: Masullo가 12년 동안 집필한 940쪽 분량의 수기 원고 표지. 출처: math216.wordpress.com

지성의 정수는 흔히 정보의 압축률에 담겨 있다. 940쪽과 25만 쪽이라는 250배 이상의 부피 차이는 인간과 기계의 인지 방식 차이를 드러낸다. 인간의 수학은 정교한 통찰과 직관적 도약을 추구하지만, 기계는 무한한 연산력을 바탕으로 국소적 진리를 이어 붙인다. 알푀게 역시 발표문에서 이 논증이 곧 대폭 간소화되고 개념적으로 정리될 것이라는 직관을 밝혔다.

컴파일러의 승인이 동료 평가를 대신하는 시대: 형식 증명기가 0=1을 증명했던 역사

수 세기 동안 수학계의 신뢰는 연구자들 사이의 상호 검토와 토론에 기반해 왔다. 동료들이 모든 수식을 꼼꼼히 살피고 숨겨진 가정을 찾아내며 학문 공동체의 합의를 형성했다. 그러나 이제 1,700만 줄의 코드는 인간의 두뇌를 건너뛰고 판정의 전권을 터미널 속 컴파일러에 넘겨주었다. 코드가 타입 검사를 통과하기만 하면 형식 검증 도구는 승인의 녹색 불을 켠다.

그러나 이러한 기계의 보증이 겉보기처럼 완벽한 것은 아니다. 이론 컴퓨터 과학자 스콧 애런슨(Scott Aaronson)은 잠재적 위험을 짚었다. Lean의 커널은 과거에 심각한 결함을 겪은 적이 있으며, 잘못된 규칙으로 인해 0과 1이 같다는 결론을 도출한 적도 있다. 기계가 제공하는 안전성은 검증기 자체의 기반 코드의 엄밀성에 전적으로 달려 있다.

그럼에도 국소적 추론 단계에서 형식 검증이 보여주는 신뢰도는 여전히 놀랍다. 애런슨은 지금까지 Lean 인증을 받은 수학적 성과 가운데 철회된 사례는 단 한 건도 없었던 반면, 전통적인 논문에서는 수많은 철회가 발생했다고 지적했다. 필즈상 수상자 테렌스 타오(Terence Tao) 역시 같은 날 여러 수학적 진전을 언급하며, 유체 방정식의 특이점 분석과 이번 발표를 나란히 평가했다. 타오는 검증과 간소화의 중심 무대가 이미 학술지에서 Lean 개발자 토론 게시판으로 옮겨갔다고 분석했다.

수천 개의 미해결 정리가 기다리는 답: 기계는 답을 내놓았으나 이해를 주지 못했다

리만 가설이 제기된 지 167년이 흐른 지금, 이 가설은 여전히 정수론의 핵심 기둥으로 자리 잡고 있다. 일반화 리만 가설(GRH)은 현대 정수론의 절반을 지탱하고 있으며, 수학 문헌 속 수천 편의 논문이 이 가설의 성립을 전제로 삼고 있다. 널리 쓰이는 밀러-라빈 소수 판별법 역시 빠른 판정을 위해 이 가설에 의존한다.

가설이 최종 입증된다면 방대한 수학적 구조물들이 일제히 완성될 것이다. 그러나 기계 검증을 통과한 코드를 마주한 수학자들은 묘한 당혹감에 빠져 있다. 시스템은 긍정적인 답을 내놓았지만, 학계는 그에 걸맞은 이해를 얻지 못했다. 결론이 참일 가능성이 높다는 점은 알게 되었으나, 학문을 살찌울 사상적 자양분을 그 속에서 길어 올릴 수 없기 때문이다.

기계는 계산력으로 추론 단계를 이어갈 뿐, 왜 그 경로를 선택했는지는 설명하지 못한다. 수학 연구가 추구하는 것은 우주의 근본 원리에 대한 깊은 깨달음이다. 연구자에게 지적 전율을 주지 못하는 성과는 지식의 전승 과정에서 그 가치가 반감된다. 형식 검증 도구는 논리의 매듭을 풀었지만, 동시에 길고 긴 이해의 공백을 남겼다.

타임스탬프 경쟁으로는 지적 우선권을 지킬 수 없다

두 편의 증명이 같은 날 맞부딪히면서 학계에는 현실적인 불안감이 번졌다. 일부 학자들은 논문을 작성할 때 즉시 해시값을 기록하고 암호학적 타임스탬프로 우선권을 보호해야 한다고 제안했다. 이러한 반응은 알고리즘의 급습 앞에서 연구자들이 느끼는 다급함을 보여준다. 그러나 과학적 발견의 영예는 단순한 타임스탬프의 선후만으로 결정되지 않는다.

애런슨은 수학자들이 1,700만 줄의 코드만으로 납득하지 않을 것이라고 단언했다. 핵심 아이디어가 학자들에 의해 이해되고 정제되어 인간의 언어로 다시 표현될 때 비로소 학술 공동체는 온전한 동의에 도달한다. 이러한 전환 작업에는 대개 수년의 시간이 필요하다. 인간의 정신은 오직 생물학적 속도에 맞춰 전진할 수 있기 때문이다. 기계의 폭발적인 산출 속도 앞에서 수학 공동체는 자신만의 소화 리듬을 고수한다.

앞다퉈 공개된 두 편의 원고는 동일한 전환점 위에 멈춰 서 있다. 한쪽에는 인간의 이해가 깃들기를 기다리는 거대한 프로그램의 물결이 있고, 다른 한쪽에는 증명의 세부를 채워 넣어야 할 장대한 수기 원고가 있다. 기계는 명제의 참과 거짓을 판정하는 속도를 혁신했지만, 진리를 이해하려는 인간 정신의 긴 탐색 과정을 건너뛸 수는 없다. 형식화의 파도가 거세게 밀려오는 지금도 수학의 종착지는 결국 인간이 그 내용을 온전히 이해할 수 있는가에 달려 있다.

참고 링크:

  • Scott Aaronson 블로그 논평
  • Terence Tao 블로그 분석
  • Ravi Vakil의 Masullo 원고 공지문
  • Levent Alpöge 증명 발표문