2026년 7월 29일, 과학 전문 매체 《Quanta Magazine》에 물리학 특유의 블랙유머가 담긴 제목의 기사가 게재되었습니다. “물리학자들이 뮤온의 수수께끼를 풀었다——하지만 이제 과거 데이터가 맞지 않는다.”
기사를 읽고 가장 먼저 든 생각은 ‘잠깐, 수수께끼는 풀렸는데 문제가 더 커졌다는 뜻인가?‘였습니다.
네, 그렇습니다.
그림: 페르미연구소의 뮤온 g-2 실험 핵심 장치인 지름 15미터의 초전도 자석 고리. 출처: Reidar Hahn / Fermilab
100만분의 1의 균열
이야기는 2001년으로 거슬러 올라갑니다. 그해 미국 브룩헤이븐 국립연구소의 물리학자들은 뮤온(muon)이라는 입자의 자성을 측정하는 실험을 진행했습니다.
뮤온이란 무엇일까요? 전자의 ‘무거운 형제’라고 생각하면 쉽습니다. 전하량은 전자와 완전히 같지만 질량은 207배나 더 무겁고, 2마이크로초도 되지 않아 붕괴하는 짧은 수명을 가집니다. 하지만 전자처럼 자기장 속에서 팽이처럼 회전하며 팽이동작(세차운동)을 합니다. 이 회전 운동의 크기를 나타내는 숫자가 바로 g-인자(g-factor)입니다.
입자물리학의 ‘성경’인 표준 모형(Standard Model)에 따르면, 뮤온의 g-인자는 정확히 2여야 합니다. 그러나 양자역학에 따르면 세상은 그리 단순하지 않습니다. 뮤온 주변에서는 끊임없이 다양한 가상 입자들이 나타났다 사라지며, 이러한 양자적 활동으로 인해 뮤온이 아주 조금 더 흔들리게 됩니다. 이 ‘아주 조금 더한 양’을 g-2라고 부릅니다.
2001년 실험 결과, 이 g-2 값은 표준 모형이 예측한 수치보다 더 크게 나타났습니다.
얼마나 더 컸을까요? 약 100만분의 1이었습니다.
사소해 보일 수 있지만, 입자물리학의 세계에서 100만분의 1의 오차는 완벽한 벽에 미세한 균열이 생긴 것과 같습니다. 물리학자들은 열광했습니다. 표준 모형은 인류 역사상 가장 정밀한 과학 이론이므로, 자그마한 편차라도 존재한다면 그것은 새로운 입자, 어쩌면 암흑 물질의 흔적일 수 있기 때문입니다.
그렇게 20년이 넘는 대추격전이 시작되었습니다.
물리학자들의 두 자
뮤온이 실제로 얼마나 흔들려야 하는지 계산하기 위해 물리학자들에게는 두 가지 접근법이 있습니다.
첫 번째는 **‘데이터 기반 방법’**입니다. 이론적 계산이 너무 복잡하다면 실제 양자 충돌 실험을 통해 측정하자는 방식입니다. 전자와 그 반물질인 양전자를 충돌시켜 소멸시키면 쿼크를 포함한 수많은 입자가 생성됩니다. 쿼크가 많이 생성될수록 뮤온과의 양자적 결합이 강해지며, 뮤온의 g-2 흔들림도 커집니다. 이 방법의 핵심 데이터는 세계 곳곳에서 수십 년간 축적된 전자-양전자 충돌 실험 데이터에서 나옵니다.
두 번째는 **‘격자 QCD(Lattice QCD)‘**입니다. 이는 순수한 이론 계산입니다. 쿼크 사이의 강한 상호작용은 수학적으로 풀기가 너무 까다롭기 때문에, 물리학자들은 시공간을 작은 격자망(일기예보에서 대기를 격자로 나누듯)으로 쪼갠 뒤 슈퍼컴퓨터로 쿼크의 행동을 시뮬레이션했습니다. 계산량이 엄청나기 때문에 과거 이 방법의 정밀도는 데이터 기반 방법보다 10배나 떨어졌습니다.
이야기의 첫 번째 갈등은 여기서 시작됩니다. 2001년 브룩헤이븐의 데이터 발표 이후 물리학자들은 정밀도를 높이고자 했습니다. 2013년, 그들은 지름 15미터의 거대한 초전도 자석 고리를 뉴욕에서 일리노이주의 페르미 국립가속기연구소로 이송했습니다. 바짓선에 실어 해안선을 따라 운송한 뒤 대형 트럭으로 옮기는 대장정이 펼쳐졌습니다.
그림: 뉴욕 브룩헤이븐 국립연구소에서 수로와 육로를 통해 페르미연구소로 이송되는 뮤온 g-2 자석 고리. 출처: Fermilab
2021년 4월, 페르미연구소는 업그레이드된 실험 결과를 발표했습니다. 뮤온의 g-2는 표준 모형의 기존 예측치보다 명백히 컸으며, 오차의 신뢰도는 4.2표준편차(sigma)에 달했습니다. ‘공식적인 신입자 발견’ 기준인 5표준편차에 바짝 다가선 것입니다.
환호성이 터져 나왔습니다. 표준 모형의 균열은 정말로 존재하는 것처럼 보였습니다.
같은 날, 논문 한 편이 모든 것을 바꾸었다
믿기 힘들게도, 페르미연구소가 결과를 발표한 바로 그날 《Nature》지에 논문 한 편이 게재되었습니다.
부다페스트, 마르세유, 부퍼탈의 물리학자들(BMW 협력단)이 격자 QCD로 계산한 결과였습니다. 10년간의 연구 끝에 그들은 격자망을 매우 촘촘하게 만들어 계산 정밀도를 실험 수준으로 끌어올렸습니다.
그들의 결론은 무엇이었을까요? 격자 QCD 계산에 따르면, 뮤온의 실제 흔들림은 표준 모형의 예측과 완벽히 일치했습니다. 아무런 균열도 없었습니다.
즉, 물리학자들을 20년간 열광하게 만든 ‘균열’은 애초에 존재하지 않았던 것입니다.
이는 교과서에 남을 만한 반전이었습니다. 물리학자들이 20년 동안 찾아 헤매던 균열은, 알고 보니 그들이 기준으로 삼았던 기존의 이론 계산 자체가 잘못된 것이었습니다. 틀린 것은 실험이 아니라 이론 계산의 전제였습니다.
이때부터 상황은 겉잡을 수 없는 안갯속으로 빠져들었습니다.
그림: 뮤온 g-2를 둘러싼 세 가지 데이터의 비교 개요. 출처: Samuel Velasco / Quanta Magazine
서로 충돌하는 세 가지 데이터
현재 물리학자들의 손에는 서로 충돌하는 세 가지 데이터 세트가 쥐어져 있습니다.
- 페르미연구소의 직접 측정치: 현실에서 뮤온이 실제로 얼마나 흔들리는지 나타내는 ‘실체’입니다. 이 측정 수치 자체에는 이견이 거의 없습니다.
- BMW의 격자 QCD 계산치: 순수 이론적 예측으로, 페르미연구소의 측정치와 완벽히 일치하며 표준 모형을 지지합니다.
- 충돌 데이터를 기반으로 한 데이터 기반 예측치: 수십 년간의 전자-양전자 충돌 데이터를 바탕으로 2020년에 도출된 예측치로, 격자 QCD보다 낮은 g-2 값을 보여 페르미연구소의 실험 결과와 날카롭게 대립합니다.
만약 격자 QCD가 맞다면, 데이터 기반 방법과 그 바탕이 된 기존 실험 데이터가 틀린 셈이 됩니다. 하지만 데이터 기반 방법이 의존하는 데이터는 입자물리학에서 가장 신뢰할 수 있다고 여겨온 전자-양전자 충돌 데이터입니다. 40년간의 충돌 데이터마저 믿을 수 없다면 도대체 무엇을 믿어야 할까요?
문제의 핵심은 이것입니다. 왜 데이터 기반 예측과 격자 QCD 계산 결과가 서로 다를까요?
시베리아의 수수께끼
해답의 힌트는 시베리아에 숨어있을지 모릅니다.
러시아 노보시비르스크의 VEPP-2000 입자충돌기에서는 전자와 양전자를 충돌시키는 실험이 묵묵히 진행되어 왔습니다. CERN의 대형하드론충돌기(LHC) 에너지의 6,000분의 1에 불과한 소규모 장치이지만, 2010년 CMD-3라는 새로운 검출기를 설치했습니다.
2023년, CMD-3 팀은 파이온(쿼크의 결합체) 생성 비율에 대한 새로운 측정 결과를 발표했습니다. 그 데이터는 지난 40년간 수행된 모든 측정 결과와 극적으로 달랐습니다.
물리학자 페도르 이그나토프(Fedor Ignatov)는 “이것은 뜻밖의 결과였다. 아무도 이런 결과를 예상하지 못했다”고 전했습니다.
흥미롭게도 이 시베리아의 새로운 데이터는 BMW의 격자 QCD 계산 결과와 일치했습니다. 그렇다면 과거의 데이터는 어떻게 되는 걸까요? 이탈리아의 KLOE 실험, 칼리포니아의 BaBar 실험 등 수십 년간 축적된 종전 데이터는 서로 일치하지만, 이 새로운 데이터와는 충돌합니다.
물리학자들은 깊은 혼란에 빠졌습니다. 과거의 실험들이 모두 계통 오차를 안고 있었고 새 실험이 진실을 밝혀낸 것일까요? 아니면 새 실험에 오류가 있고 과거의 실험들이 맞았던 것일까요?
혹은, 더욱 흥분되는 가능성으로 알려지지 않은 새로운 입자가 실험 결과에 영향을 미치고 있는 것일까요?
처음의 그 꿈이, 훨씬 복잡한 형태로 다시 돌아온 것입니다.
왜 이 이야기가 우리 모두에게 중요한가
여기까지 들으면 ‘학자들끼리 숫자 가지고 다투는 게 우리와 무슨 상관인가’ 싶을 수 있습니다.
하지만 이것이야말로 과학이 가진 가장 매력적이면서도 자주 오해받는 지점입니다.
많은 사람들은 과학을 ‘문제 발견 → 이론 제시 → 검증 → 정답 도출’이라는 선형적인 과정으로 생각합니다. 하지만 실제 과학은 엉킨 실타래와 같습니다. 매듭 하나를 풀면 그 옆에 세 개의 새로운 매듭이 드러납니다. 하나의 답을 얻으면 그것은 더 많은 질문을 만들어냅니다.
이것이 뮤온 이야기가 주는 진정한 울림입니다. 물리학자들은 20년 동안 세계에서 가장 비싼 장비와 강력한 슈퍼컴퓨터를 동원해 놀라운 기술적 발전을 이루었고, 뮤온의 수수께끼를 풀었습니다. 그러나 그 과정에서 지난 40년간의 충돌 데이터 속에 숨어 있던 계통적 모순을 발견했습니다.
이제 우리 앞에는 서로 충돌하는 세 가지 데이터와, 더 크고 매혹적인 새로운 미스터리가 놓여 있습니다.
물리학자 알렉스 케샤바르지(Alex Keshavarzi)는 이렇게 솔직하게 말합니다. “서로 다른 방식, 서로 다른 연구진, 서로 다른 실험 장치로 40년 동안 수행된 측정들이 완전히 다른 그림을 그리고 있습니다. 우리에게는 아직 해야 할 일이 너무나 많습니다.”
과학의 진짜 적은 ‘자만’입니다. 진리에 가까워졌다고 생각할 때마다 자연은 언제나 더 큰 물음표를 던져줍니다.
어쩌면 이것이야말로 입자물리학의 가장 아름다운 모습일 것입니다. 우리가 더 깊이 질문할수록 우주는 더욱 침묵하고, 그 침묵 속에 더 깊은 비밀이 묻혀 있으니 말입니다.
참고 자료
- Quanta Magazine: Physicists Solve a Muon Mystery. Now, Old Results Don’t Add Up
- ScienceBlog: Muon g-2 calculations match Fermilab but clash with four decades of collider data
- Physics World: Muon g−2 calculation sets precision record and backs the Standard Model
- Wikipedia: Muon g-2
- Nature: Hybrid calculation of hadronic vacuum polarization in muon g-2 (2026)