1700만 줄의 코드가 풀어낸 세기의 수학 난제: 인간이 다 읽기도 전에 기계가 검증을 끝낸 이유

1700만 줄의 코드가 풀어낸 세기의 수학 난제: 인간이 다 읽기도 전에 기계가 검증을 끝낸 이유

수학형식 검증Lean인공지능

데이터 소스:MIT + Lean community blog + web research

2026년 11월 21일, 수학계에 전례 없는 형식의 증명이 도착했다. 무려 1700만 줄에 달하는 방대한 코드가 리만 가설을 완벽히 해결했다고 주장한 것이다. 어떤 수학자도 이 거대한 코드의 바다를 끝까지 읽어낼 수 없었다. 그럼에도 권위 있는 수학 커뮤니티는 불과 24시간 만에 증명이 유효함을 공식 선언했다. 모두가 승리를 축하했지만, 정작 작성자가 어떤 방식으로 풀어냈는지 설명할 수 있는 사람은 아무도 없었다.

계산 오류만 차단하는 네 단계 관문: 인간의 이해는 요건에서 제외되다

수학자 Levent Alpöge는 증명을 175,187개의 모듈로 잘게 쪼개어 오픈소스 검증 시스템인 Lean에 제출했다. Lean 커뮤니티와 Mathlib 운영진은 즉각 대응에 나섰다. 열흘 전 미리 수립해 둔 네 가지 인수 기준에 따라 합동 검토가 시작되었고, 24시간 후 공식 성명을 통해 명제와 증명 모두 유효하다는 최종 결론이 내려졌다.

이 네 단계의 검증 절차에는 처음부터 끝까지 인간의 직관적 개입이 전혀 필요하지 않았다. 첫 번째 관문은 명제 검증이었다. 증명 코드는 수학 라이브러리에 이미 엄격히 검증되어 있던 리만 가설의 표준 정의를 그대로 가져다 씀으로써 개념 왜곡 가능성을 원천 차단했다. 두 번째 관문에서는 수십 명의 연구자가 독립적으로 빌드를 수행하여 오류가 전혀 발생하지 않음을 확인하고, 완전히 일치하는 원본 증명 파일을 생성해 냈다.

세 번째 관문은 리만 가설의 원초적 명제만을 분리하여 텍스트 비교 도구로 한 글자씩 대조하는 작업이었다. 네 번째이자 가장 까다로운 관문에서는 추출된 증명을 완전히 독립적인 여러 검증 커널에 통과시켰으며, 모든 커널의 만장일치 통과를 필수 조건으로 내걸었다. 이 모든 파이프라인은 오로지 논리적 연역 과정의 결함을 막는 데만 집중했을 뿐, 인간 수학자가 직관적인 통찰을 얻을 수 있는지는 안중에 두지 않았다.

그림: Lean 커뮤니티와 Mathlib 커뮤니티가 발표한 공동 인증 성명. 출처: Lean community blog 그림: Lean 커뮤니티와 Mathlib 커뮤니티가 발표한 공동 인증 성명. 출처: Lean community blog

80개 스레드로 27분 만에 통과: 다중 커널이 빈틈없이 잠근 논리적 방어선

MIT 수학자 Andrew Sutherland는 공개 모니터링 페이지를 구축하고 자동화 도구를 가동해 교차 검증을 진행했다. 집계된 데이터에 따르면 175,187개의 모든 모듈이 Lean 4.33.1 환경에서 정상적으로 컴파일되었다. 다섯 가지 핵심 정리 역시 세 개의 기초 논리 공리에만 기반했을 뿐, 그 어떤 외부 가정이나 미검증 전제도 끌어들이지 않았다.

Rust로 작성된 서드파티 독립 커널 nanoda는 80개 스레드를 활용해 27분 42초 만에 전체 검증을 성공적으로 마쳤다. 또 다른 검증 도구인 con-leche는 최고 보안 모드를 적용해 1,468,418개의 선언을 단 3분 15초 만에 스캔해 냈다. 특히 이 도구는 알고리즘 자체가 거짓 명제를 참으로 오인하지 않는다는 형식 증명까지 자체적으로 갖추고 있었다.

라이브러리 전체에서 참조한 8,322개의 기초 파일과 378개의 의존성은 공식 캐시와 바이트 단위까지 완벽히 일치했다. 서로 다른 프로그래밍 언어로 서로 다른 개발자가 작성한 검증 도구들이 일제히 승인했다는 것은, 이 결과를 뒤엎으려면 독립된 모든 검증 엔진의 결함을 동시에 찾아내야 한다는 뜻이다. 이와 같은 다층적 중복 설계는 공학적 차원에서 논리적 허점을 철저히 봉쇄했다.

그림: MIT 검증 페이지에 기록된 각 독립 커널별 검사 결과 세부 사항. 출처: Andrew Sutherland / MIT 그림: MIT 검증 페이지에 기록된 각 독립 커널별 검사 결과 세부 사항. 출처: Andrew Sutherland / MIT

940쪽 분량의 수기 논문은 8시간 만에 결함 노출: 전통적 동료 평가의 한계

같은 날, 스탠퍼드 대학교 수학자 Ravi Vakil은 학자 Alessandro Masullo가 작성한 940쪽 분량의 방대한 수기 논문을 긴급 공개했다. 《소수의 음악》이라는 제목이 붙은 이 논문은 일반화 리만 가설을 다루고 있었다. 인공지능의 개입 없이 동료 학자들과 수개월간 비밀리에 검토를 진행해 왔으며 앞으로 1년간 더 다듬을 계획이었으나, Alpöge의 성과 발표로 인해 일정을 앞당겨 서둘러 공개할 수밖에 없었다.

그러나 심혈을 기울인 이 거대한 논문은 세상에 나온 지 8시간도 채 지나지 않아 치명적인 타격을 입었다. 여러 동료 연구자들이 인공지능 보조 도구를 활용해 텍스트를 정밀 분석하자마자 연역 과정의 심각한 모순이 속속 드러난 것이다. Vakil은 논문의 핵심 전략이 유효한지 보증할 수 없다는 수정 성명을 다급히 발표했다. 심지어 논문의 첫 번째 소절 내용이 완전히 빈칸으로 남아 있었다는 사실까지 밝혀졌다.

두 방식의 대비는 잔혹할 정도로 선명했다. 940쪽에 달하는 인간의 논문은 기계의 신속한 스캔 앞에서 버티지 못하고 순식간에 무너져 내렸다. 반면 1700만 줄의 코드는 비록 인간의 머리로는 이해할 수 없을지언정, 엄격하고 확고한 기계적 규칙을 바탕으로 단 하루 만에 난공불락의 신뢰를 구축해 냈다.

모든 커널이 통과시켰음에도, 역사에 남아 있는 오탐의 전례

모든 신뢰를 온전히 기계에 맡기는 것에 대해 학계가 마냥 안심할 수만은 없는 역사적 이유도 있다. 수학자들은 과거의 뼈아픈 실수를 떠올린다. 과거 콜라츠 추측에 대해 제출되었던 잘못된 반례가 독립성을 표방하던 검증 커널들을 아무 문제 없이 통과했던 사건이 있었다. 사후 추적 결과, 겉으로는 독립되어 보였던 검증기들이 가장 깊은 구현 수준에서 검증되지 않은 동일한 가정을 은밀히 공유하고 있었던 것으로 드러났다.

인간의 직관이 전체 연역 과정에서 배제되는 순간, 논리 변환의 틈새마다 보이지 않는 암초가 도사리게 된다. 네 단계의 검증 기준은 빈틈없이 맞물려 있었지만, 오직 ‘인간의 인지적 참여’라는 고리 하나만큼은 철저히 결여되어 있었다. 현재 수학계에서 이 1700만 줄의 형식 기호들을 인간이 이해할 수 있는 수학적 사유 체계로 번역해 낼 수 있는 사람은 단 한 명도 없다.

코드가 오류 없이 컴파일된다는 사실과 수학적 원리를 온전히 이해한다는 것은 근본적으로 다른 차원의 문제다. 학자들은 정리가 기계 안에서 유효하게 성립함을 확신하지만, 이를 발판 삼아 일반화된 새로운 이론 체계를 발전시키기는 어렵다. 블랙박스는 인간에게 궁극의 해답을 안겨주었지만, 그 뒤에는 끝없는 당혹감만을 남겨두었다.

검증을 넘겨받은 기계, 여전히 인간의 몫으로 남겨진 이해의 짐

이번 학술적 충격이 던지는 핵심 질문은 기계가 수학적 결론을 보증하는 경계가 과연 어디까지인가 하는 점이다. 실리콘 칩 위에서 정밀하게 작동한 네 단계의 수락 규정은 인간이 짊어져야 했던 고된 검증 노동을 효과적으로 덜어주었다.

같은 날 발표된 940쪽짜리 논문은 이 현실적인 간극을 적나라하게 드러냈다. 기계가 판정할 수 있는 논리적 영역은 이미 결론이 났다. 이제 남겨진 미지의 영역은 거대한 코드를 하나하나 뜯어보며 사유할 용기를 가진 인간 연구자들의 몫이다. 하지만 현실에서 천만 줄이 넘는 코드를 끈기 있게 파고들 사람은 검증 스크립트를 실행해 볼 사람에 비해 턱없이 적다.

코드가 컴파일을 통과했다고 해서 수학의 본질적 탐구가 멈추는 것은 아니다. 이번 사건은 우리 모두에게 분명한 메시지를 던지고 있다. 증명의 참과 거짓을 판정하는 일은 기계가 넘겨받았을지언정, 수학이라는 학문에 영혼을 불어넣는 최종 권한은 여전히 인간의 손안에 남아 있다는 사실을 말이다.

참고 링크:

  • Xena Project 리만 가설 수락 기준 안내
  • MIT 수학과 리만 가설 Lean 검증 현황 대시보드
  • Lean 커뮤니티 및 Mathlib 커뮤니티 합동 인증 공식 성명
  • 스탠퍼드 대학교 수학과 940쪽 수기 증명 논문 관련 학술 공지