당구대 위의 공과 도망칠 수 없는 양자 파동
당구대 위에 수백 개의 장애물이 불규칙하게 배치되어 있는 모습을 상상해 보자. 강철 구슬을 쳐서 보내면 구슬은 장애물 사이를 연속해서 튕겨 나간다. 장애물의 배치가 극도로 복잡할 때, 강철 구슬은 몇 번의 충돌 끝에 미세한 틈새에 끼여 영원히 빠져나오지 못하곤 한다. 일상적인 고전 물리학의 경험에서 기하학적 경로가 복잡해질수록 물체는 막다른 길에 갇히기 쉽다.
2026년 8월 12일, 과학 전문지 《Quanta Magazine》은 수학 분야 세계 최고 권위 학술지인 《Annals of Mathematics》에 게재된 획기적인 연구 성과를 보도했다. 25세의 매사추세츠 공과대학교(MIT) 박사과정생 알렉스 코엔(Alex Cohen)이 고차원 공간에서의 프랙탈 불확정성 원리(fractal uncertainty principle, FUP: 복잡한 기하학적 경로에서 양자 파동이 반드시 누출되어 확산한다는 수학적 정리)를 증명해 낸 것이다.
이 연구는 직관에 반하는 결론을 제시한다. 미시 세계의 양자 파동은 고전적인 강철 구슬처럼 기하학적 막다른 길에 결코 갇히지 않는다. 경로가 무한히 복잡한 기하학적 미로로 설계되어 있더라도 양자 파동은 반드시 새어나가 확산한다. 고차원 프랙탈 불확정성 원리의 증명은 무한한 혼돈 속에서 양자 입자가 고전적 물체보다 훨씬 더 질서정연하게 행동한다는 물리학적 본질을 밝혀냈다.
무한히 확대되는 미로: 프랙탈이란 무엇인가
양자 파동의 운동을 이해하려면 먼저 프랙탈(fractal: 아무리 확대해도 내부의 세부 구조와 복잡성이 유지되는 기하학적 형상)의 특수한 구조를 이해해야 한다. 자연계에서 흔히 볼 수 있는 눈 결정의 테두리나 해안선도 프랙탈의 성질을 띠고 있어, 돋보기로 일부를 관찰하든 높은 하늘에서 전체를 내려다보든 그 굴곡진 복잡함이 거의 동일하다.
수학 연구에서 가장 대표적인 프랙탈은 칸토어 집합(Cantor set: 선분에서 가운데 3분의 1을 계속해서 제거하여 만든 점들의 집합)이다. 또한 정사각형 내부에서 미세한 정사각형 구멍을 무한히 뚫어나가면 시에르핀스키 카펫(Sierpinski carpet: 무수한 구멍이 뚫린 평면 프랙탈)을 얻게 된다. 이러한 기하학적 구조는 수많은 구멍으로 가득 차 있어, 수학적 계산에서 실제 차지하는 부피가 0에 수렴한다.
그림: 프랙탈 구조와 양자 파동 확산의 시각적 모형. 출처: Ada Zejun Shen/Quanta Magazine
칸토어 집합의 전체 길이는 수학적으로 0으로 수렴하지만, 그 안에 포함된 점의 개수는 전체 선분과 동일하다. 이는 천 조각에서 99%의 섬유를 잘라내도 남아있는 뼈대가 여전히 공간 전체를 채우고 있는 것과 같다. 미시 입자가 이처럼 틈새로 가득 찬 기하학적 격자를 만났을 때, 고전 물리학과 양자 물리학은 완전히 다른 결말을 맞이한다.
입자는 갇히는데 파동은 왜 누출되는가
고전 물리학의 구슬이 혼돈계 내부에서 충돌할 때, 충돌점들이 이루는 궤적은 공간 내에서 칸토어 집합과 유사한 프랙탈 먼지(fractal dust: 국소적으로 형성되는 무수히 미세한 점들의 집합)를 형성한다. 구슬은 단단한 입자이므로 특정 각도로 계속 충돌하는 한 프랙탈 먼지로 이루어진 막다른 길에 갇혀 벗어날 수 없다.
반면 미시 입자는 파동-입자 이중성을 가지며 그 행동은 파동함수에 의해 지배된다. 미시 입자를 측정할 때는 불확정성 원리(양자역학에서 입자의 위치와 운동량을 동시에 정확히 측정할 수 없다는 물리학적 법칙)를 따라야 한다. 불확정성 원리의 수학적 기초는 푸리에 변환(복잡한 파동을 서로 다른 주파수의 단일 파동으로 분해하는 수학적 도구)에 기반을 둔다.
미세한 틈새가 뚫린 상자 안에 음파를 가두려 해도 소리는 반드시 틈새를 통해 새어나온다. 푸리에 변환은 파동의 공간적 위치가 프랙탈의 매우 좁은 구멍으로 제한될 때 그 주파수와 운동량이 무한히 늘어남을 수학적으로 증명한다. 양자 파동은 부피가 0인 프랙탈 뼈대 안에 국한될 수 없으며, 에너지는 반드시 외부로 확산한다.
유고 속에 남겨진 단서: 25세 박사과정생의 돌파구
일찍이 2016년, MIT의 수학자 세묜 디아트쇼프(Semyon Dyatlov)와 작고한 필즈상 수상자 장 부르갱(Jean Bourgain)은 1차원 공간에서의 프랙탈 불확정성 원리를 증명했다. 그러나 2차원 이상의 고차원 공간에서는 수학계 전체가 증명이 극도로 어려울 것이라고 생각했다. 소르본 대학교의 수학자 프레데릭 노드(Frédéric Naud)는 과거 뉴저지에서 열린 워크숍에서 이 원리가 고차원으로 확장될 수 있다고 믿는 참가자가 거의 없었다고 회상했다.
그림: 수학자 세묜 디아트쇼프. 출처: Xuwen Zhu
결정적인 전환점은 2018년 말 부르갱이 세상을 떠난 후 찾아왔다. 부르갱이 남긴 미발표 원고 노트르 디아트쇼프가 갓 입학한 박사과정생 알렉스 코엔에게 전달했다. 코엔은 원고를 읽고 큰 충격을 받았다. 노트에서 제시한 해법의 단서는 1960년대에 확립된 뵈를링-말리아뱅 정리(Beurling-Malliavin theorem: 함수의 감쇄 속도와 푸리에 변환의 성질을 연구하는 해석학 정리)였다.
그림: 수학자 알렉스 코엔. 출처: Hertz Foundation
선배 연구자들 대부분은 이 경로를 시도해 보고 불가능하다고 결론을 내린 상태였다. 하지만 코엔은 선배들의 좌절을 알지 못했기에 오히려 강한 확신을 가지고 연구에 뛰어들었다. 고차원 증명의 가장 큰 장애물은 일부 고차원 프랙탈이 연속된 직선을 포함할 수 있다는 점이었다. 직선의 푸리에 변환은 여전히 직선이어서 불확정성 원리의 성립 조건을 무너뜨리기 때문이다. 코엔은 선 다공성(line porosity: 기하학적 프랙탈이 어느 방향으로도 완전한 직선을 포함하지 않도록 보장하는 조건) 개념을 도입하여 조건에 위배되는 프랙탈을 성공적으로 배제했다. 2023년 5월 논문 초안을 프리프린트 서버에 올린 후, 코엔의 논문은 2025년 수학 최고 권위지 《Annals of Mathematics》에 정식 게재되었으며, 그는 25세의 나이에 뉴욕 대학교 조교수로 임용되었다.
양자 세계의 모네 명화: 파동은 언제나 전역으로 확산한다
고차원 프랙탈 불확정성 원리의 돌파구는 물리학과 수학의 다른 분야에도 거대한 파급 효과를 불러일으켰다. 2017년 디아트쇼프와 칭화 대학교의 진룽(Long Jin) 연구원은 1차원 정리를 사용하여 쌍곡면 위에서 파동이 결코 갇힐 수 없음을 증명했다. 2025년 하버드 대학교의 엘레나 킴(Elena Kim)과 오클라호마 대학교의 니콜라스 밀러(Nicholas Miller)는 코엔의 고차원 성과를 활용하여 이 결론을 고차원 쌍곡 공간으로 확장했다. 프린스턴 고등연구소의 피터 사낙(Peter Sarnak)은 이를 고차원 정리의 가장 장엄한 실용적 응용이라고 평가했다.
디아트쇼프는 이러한 양자 파동의 확산 현상을 인상파 화가 모네의 유화에 비유했다. 모네의 그림을 가까이서 보면 화폭 위에 복잡하게 얽힌 무수한 붓자국이 보이지만, 몇 걸음 뒤로 물러서서 멀리서 바라보면 모든 색상이 고르게 융합되어 보인다. 혼돈 공간에서 양자 파동의 운동은 모네의 붓자국과 같아서, 미시적으로는 극도로 복잡하지만 거시적으로는 반드시 공간의 모든 구석으로 균일하게 확산한다.
이 결론은 수학계의 오랜 미제였던 사낙-루드닉 가설(Sarnak-Rudnick conjecture: 혼돈계에서 양자 파동함수의 거시적 분포 균일성에 관한 가설)을 해결하는 데 결정적인 일보를 내디뎠다. 프린스턴 고등연구소의 피터 사낙은 대학원생이 박사학위 논문에서 이러한 근본적인 업적을 남기는 것은 학계에서 매우 이례적인 일이라고 찬사를 보냈다.
혼돈의 미로도 파동을 가둘 수 없다
고전 물리학의 세계에서 혼돈은 흔히 우연과 막다른 길을 동반하며, 작은 강철 구슬은 복잡한 미로 속에서 갇혀버릴 수 있다. 그러나 양자역학의 지배 아래에서 불확정성 원리는 미시 입자의 행동에 넘어설 수 없는 한계를 설정한다.
고차원 프랙탈 불확정성 원리의 증명은 복잡한 기하학적 구조에서 양자 입자가 어떻게 움직이는지 명확히 해명했다. 무한히 겹쳐지고 구멍으로 가득 찬 프랙탈 경로조차도 양자 파동을 가둘 수 없으며, 파동은 반드시 새어나가 전역을 채운다. 겉보기에는 무질서해 보이는 미시적 혼돈 속에서, 양자 세계는 고전 물리학보다 훨씬 더 견고한 질서를 보여준다.
참고 링크:
- Quanta Magazine 보도
