수학 천재 타오(Terence Tao), ChatGPT와 함께 세기의 난제를 풀다

July 23, 2026

AI수학ChatGPT타오

데이터 소스：HN + ChatGPT · HN

2026년 7월 23일, 필즈상 수상자이자 “살아 있는 가장 위대한 수학자”로 널리 알려진 타오(Terence Tao)가 소셜 미디어에 ChatGPT와의 대화 기록을 공유했다. 대화 주제는 야코비 추측(Jacobian Conjecture)의 잠재적 반례 — 수학계를 거의 한 세기 동안 괴롭혀 온 미해결 문제다. 이 대화는 Hacker News 메인 페이지에 오르며 540개 이상의 추천과 333개의 댓글을 기록, 기술계와 수학계의 광범위한 관심을 불러일으켰다.

타오의 학술 강연 모습 그림: 타오(Terence Tao)는 현대 수학계에서 가장 영향력 있는 학자 중 한 명이다. 이미지 출처: 위키백과.

타오는 누구인가?

수학계에 익숙하지 않다면, 먼저 이 전설적인 인물을 알아보자. 타오는 1975년 호주에서 태어나, 7세에 미적분학을 독학하기 시작했고, 12세에 국제수학올림피아드 금메달을 획득했다 — 현재까지 이 대회의 최연소 금메달리스트 중 한 명이다. 20세에 프린스턴 대학교에서 박사 학위를 받았고, 24세에 캘리포니아 대학교 로스앤젤레스(UCLA) 정교수가 되었으며, 31세에 수학계 최고 영예인 필즈상을 수상했다.

수학계에서 타오는 복잡한 문제 해결 능력뿐만 아니라 “크로스오버” 능력으로도 유명하다 — 조화 해석, 편미분 방정식, 조합 수학, 정수론 등 여러 분야에서 혁신적인 기여를 했다. 현대 수학자 중 “만능형 천재”에 가장 가까운 사람이 있다면, 그것이 바로 타오라는 평가가 있다.

바로 이렇게 인류 수학 능력의 정점에 서 있는 학자가 ChatGPT에게 도움을 구했다는 사실 자체가 충분히 생각할 거리를 던져준다.

야코비 추측: 아무도 증명하지 못한 “단순한” 문제

이 대화의 의미를 이해하려면 먼저 야코비 추측이 무엇인지 알아야 한다. 가능한 한 간단하게 설명해보겠다.

당신이 지도를 하나 가지고 있다고 상상해보자. 지도의 각 지점에는 어떻게 이동할지를 알려주는 공식이 있다. 야코비 추측이 묻는 것은: 이 공식이 출발점 근처에서 항상 가역(즉, 근처의 어떤 위치에서든 원래 경로를 되찾을 수 있다)이라면, 지도 전체에서도 가역(즉, 어떤 위치에서든 원래 경로를 되찾을 수 있다)한가? 이다.

이 문제는 수학자 Ott-Heinrich Keller가 1939년에 제기했고, 이후 Shreeram Abhyankar가 1950년대에 “야코비 추측”으로 체계화했다. 직관적으로 보이는 이 문제는 수학자들을 거의 한 세기 동안 고민하게 만들었고, 아직 완전히 해결되지 않았다. 그동안 무수히 많은 수학자들이 부분적인 결과와 근사적인 증명을 제시했지만, 완전한 답은 여전히 미궁 속에 남아 있다.

타오가 ChatGPT와 논의한 것은 바로 야코비 추측의 가능한 반례에 대한 분석이었다 — 이 반례가 성립한다면 야코비 추측은 직접적으로 반박된다.

대화 원문: 인간 지성과 기계 연산의 충돌

공개된 ChatGPT 대화에서 타오는 극도로 정밀한 수학 언어로 모델에게 질문을 던지며, 단계적으로 복잡한 다항식 매핑이 야코비 추측의 반례를 구성하는지 분석하도록 이끌었다.

ChatGPT 대화 스크린샷, 타오가 AI와 수학 공식을 논의하는 모습 그림: 타오와 ChatGPT의 대화 페이지, 제목은 “Jacobian Conjecture Counterexample”다. 이 대화는 인간 전문가가 AI를 깊은 수학적 추론으로 어떻게 이끄는지 보여준다.

이 대화의 가장 인상적인 점은: 타오가 ChatGPT를 “정답을 알려주는 기계”로 다루지 않았다는 것이다. 그는 그것을 사고의 파트너로 활용했다 — 먼저 방향성 있는 질문을 던지고, ChatGPT의 답변에 따라 계속 질문하고, 수정하고, 깊이 들어갔다. 전체 과정은 교수가 대학원생을 지도하는 모습과 흡사했지만, “학생” 자리에는 대규모 언어 모델이 앉아 있었다.

HN 사용자 napoleoncomplex는 이렇게 평했다: “오늘 본 두 번째로 정말 매혹적인 ChatGPT 공유 대화다. 첫 번째는 누군가 ChatGPT에게 ‘계속해’라고 반복해서 말함으로써 다른 추측을 반증한 사례였다. 우리는 정말 놀라운 시대에 살고 있다.”

또 다른 사용자 minimaxir는 덧붙였다: “대부분의 LLM이 포기할 만한 문제에 대해 ‘계속해’라고 말하는 것이 실제로 효과가 있다. LLM은 본질적으로 어떤 일이 불가능하다는 것을 알지 못한다.”

HN 커뮤니티의 반응: 용어 밀도의 충격

이 대화는 Hacker News에서 열띤 토론을 불러일으켰으며, 가장 주목을 끈 것은 AI 능력 자체에 대한 논쟁이 아니라 수학 언어의 장벽에 관한 깊은 통찰이었다.

사용자 WarmWash의 댓글은 많은 공감을 얻었다:

“수학은 가장 미친, 가장 난해한 용어 체계를 가지고 있다. 나는 대부분의 STEM 분야에서는 수면 위에 머리를 유지할 수 있고, 기껏해야 구글이나 위키백과를 찾아보면 되지만, 수학은… 너무 빠르게 이해 가능한 범위를 벗어난다. 정말 미친 수준이다.”

그는 구체적인 예를 들어 설명했다:

“대화에서 한 문장을 인용하자면 — ‘특수 섬유는 연관 분수환(associated graded ring)이고… 이 여과(filter)가 충분히 단순한 동차 올림(homogeneous lift)을 가진 세 개의 생성자를 허용한다면, 다음을 증명할 수 있다’ — 다른 어떤 맥락에서는 논의 내용에 대해 적어도 어느 정도 직관이 있겠지만, 수학에서는? 전혀 감이 잡히지 않는다.”

이 댓글은 기술계에서 종종 간과되는 사실을 드러낸다: 수학의 언어 장벽은 다른 과학 분야보다 훨씬 높다. 훌륭한 소프트웨어 엔지니어는 TCP/IP 프로토콜의 개요를 빠르게 이해할 수 있지만, 대수 기하학의 “분수환(graded ring)”, “여과(filter)”, “동차 올림(homogeneous lift)” 같은 개념에 직면하면, 탄탄한 이공계 배경을 가졌더라도 매우 어려움을 느낄 수 있다.

”사고 파트너”로서의 AI, “정답 기계”가 아닌

HN 토론에서 일관되게 흐른 하나의 주제는: 타오가 ChatGPT를 활용하는 방식이야말로 고급 지식 작업에서 AI의 올바른 사용법을 대표한다는 것이다.

사용자 layer_x는 이렇게 썼다: “타오의 질문은 매우 구체적이고, 유용한 방식으로 AI를 유도한다… 이러한 ‘공생 관계’(일단 이렇게 부르자)는 AI의 새로운 가치 제안인 것 같다.”

또 다른 사용자 guywithabike는 말했다: “가장 충격적이었던 것은, 지구상에서 가장 똑똑한 사람 중 하나가 계속 질문을 던지는데, LLM이 ‘네, 곰곰이 생각해보면 정말 간단하죠’라는 어조로 끊임없이 답하는 모습이, 마치 교수가 유능한 학생을 지도하는 것 같았다는 점이다.”

하지만 핵심을 짚고 넘어가자: 타오는 자신이 무엇을 하고 있는지 정확히 알고 있다. 그가 ChatGPT를 효과적으로 사용할 수 있었던 근본적인 이유는, 자신이 연구하는 분야에 대해 타의 추종을 불허하는 깊은 이해를 가지고 있기 때문이다 — 이것은 “프롬프트 엔지니어링” 기술과는 무관하다. HN 사용자 bubblymagic가 말했듯: “AI 사용의 기술은, 먼저 문제 영역에 대한 깊은 이해이다. 나는 코드를 작성하는 데 AI를 사용할 수 있다. 수십 년의 프로그래밍 경험이 있기 때문이다. 하지만 이론 물리학 연구에는 사용할 수 없다. 그 답변의 정확성을 평가할 수 없기 때문이다.”

이것이 타오의 대화가 가장 생각하게 만드는 지점이다 — AI가 그를 대신해 수학 연구를 “해 준” 것이 아니라, 그의 사고 과정에서 효율적인 증폭기가 되었다는 것이다.

동전의 다른 면: AI의 경계는 어디인가?

물론 이 논쟁에서 냉정한 목소리도 있었다.

일부 댓글 작성자는 ChatGPT의 대화에 명확한 한계가 있음을 지적했다 — 자신 있게 완전히 정확하지 않은 추론을 제시하고, 때로는 타오가 여러 번 수정해야 했다. 한 익명 사용자는 이렇게 평했다: “가장 최첨단 모델도 복잡한 추론에서 길을 잃을 능력이 충분히 있다. 당신이 지속적으로 개입하여 어리석은 방향으로 추론하지 않도록 막아야 한다.”

이것은 핵심적인 질문으로 이어진다: 타오조차 반복적으로 수정이 필요하다면, 일반 사용자가 AI로 전문적인 문제를 처리할 때의 위험은 얼마나 될까?

또한, 일부 댓글 작성자는 이 대화가 “재미있어 보이는” 이유는 타오 본인의 유도 능력이 뛰어나기 때문이라고 지적했다. 평범한 사람이라면, 같은 대화가 완전히 다른 방향으로 흘러갈 수 있다 — LLM은 정중하게 보이지만 실제로는 오류가 가득한 “수학 쓰레기”를 생산할 것이다.

Hacker News 토론 페이지 스크린샷 그림: Hacker News에서 타오의 ChatGPT 대화에 관한 열띤 토론. 커뮤니티는 AI의 수학 연구 역할에 대해 깊이 있는 논의를 펼쳤다.

결론: 천재의 도구인가, 도구의 자부심인가?

전체 사건을 되돌아볼 때, 가장 주목할 만한 것은 더 미묘한 관찰이다 — 타오가 ChatGPT를 사용하는 방식은 전 세계 수백만 프로그래머가 Copilot이나 Cursor를 사용하는 방식과 본질적으로 다르지 않다 — 전문적 직관의 지도 아래 AI가 정보 검색, 초기 선별, 추론 보조를 담당하게 하고, 인간 전문가가 항상 방향을 통제하는 것이다.

HN 사용자 mnky9800nz의 댓글이 가장 잘 요약했다: “타오의 대화를 보고 가장 놀라웠던 점은, 그조차도 AI와 소통하는 방식 — 질문하고, 계속 질문하고, 설명을 요구하고, 단순화를 요구하는 것 — 이 내가 내 전문 분야에서 LLM을 사용하는 방식과 거의 똑같다는 것이다.”

이것이야말로 AI 시대 “전문가”의 정의일지도 모른다: 어떤 질문을 해야 하는지, 그리고 답변이 타당한지 어떻게 판단할지 아는 사람 — 이것이 “모든 답을 아는 것”보다 훨씬 중요하다.

야코비 추측 자체에 관해서는 — 타오가 공유한 이 대화가 궁극적으로 검증된 반례로 이어질까? 현재로서는 결론이 나지 않았다. 하지만 결과가 어떻든 간에, 이 “가장 똑똑한 인간 + 가장 진보된 AI”의 실험은 우리에게 상상력을 자극하는 미래의 그림을 이미 보여주었다.