2026년 9월 15일, OpenAI의 GPT-6 Astra가 제2차 세계대전 당시 독일군의 에니그마(Enigma) 암호문 MVUEH를 단 이틀 만에 독자적으로 해독했다. 이는 82개의 알파벳으로 이루어진 짧은 전보로, 2005년 미해독 암호 데이터베이스에 등재된 이래 암호학계가 21년 동안이나 풀어내지 못한 난제였다. 지난 20년간 수많은 암호 애호가와 연구자들이 방대한 연산 자원을 투입하여 무차별 대입 탐색을 시도했으나 모두 실패로 돌아갔다.
이번 해독의 진정한 가치는 인공지능의 압도적인 연산 능력을 과시하는 데 그치지 않는다. AI가 전문 암호 분석가의 전반적인 연구 워크플로를 처음부터 끝까지 스스로 완수했다는 점에 있다. 목표 암호문 선정에서부터 주변 정황 자료 수집, 에니그마 암호기 시뮬레이터 제작, 전용 해독 도구 구현, 그리고 독일 연방문서보관소(Bundesarchiv)의 문서 번호를 스스로 조회하여 역사적 고증을 마치는 전 과정을 도맡았다. 기계는 단순한 계산 도구에 머무르지 않고, 자율적으로 역사적 사실을 추적하는 디지털 연구자로 거듭났다.
인류가 21년 동안 가로막혀 있던 진짜 원인은 암호 알고리즘 자체의 수학적 견고함 때문이 아니었다. 연구원들의 발목을 잡은 것은 원본 전문에 포함된 통신병의 사소한 오타와, 72번째 글자 입력 시점에 발생한 극히 드문 기계식 회전자의 자리올림(스텝) 현상이었다. 인간 연구원들은 탐색 공간을 줄이기 위해 이러한 예외 변수를 관행적으로 배제해 왔다. 반면 사전 편견이 없는 AI는 인간이 버려둔 막다른 골목까지 하나하나 끈질기게 계산해 냈다.
21년 동안 풀리지 않았던 원인: 72번째 글자에서 발생한 극히 드문 회전자 이동
82자짜리 짧은 전보가 왜 그토록 까다로웠는지 이해하려면 1941년 7월 10일 제2차 세계대전 전장으로 거슬러 올라가야 한다. 당일 오후 17시 30분, 독일 무장친위대 토텐코프 사단의 보급대 무선국은 호출 부호 2ny가 보낸 단신 전문을 수신하고 일지 번호 Nr. 172로 기록했다. 무선 통신병이 받아 적은 이 암호문은 MVUEH라는 명칭으로 역사 기록에 보관되었다. 종전 후 전해진 몇 안 되는 미해독 에니그마 전문 중 하나로서, 수십 년간 암호학 포럼에서 악명 높은 난공불락의 요새로 꼽혔다.
그림: 지금까지 보존되어 온 독일군 군용 에니그마 암호기. 출처: 위키미디어 커먼즈, CC BY-SA 2.0 fr
에니그마 암호기의 핵심은 정밀한 기계식 회전자(로터) 시스템이다. 키보드의 글자를 하나 누를 때마다 회전자가 한 칸씩 돌아가며 내부 회로 배선이 바뀐다. 이 물리적 메커니즘을 통해 무려 1.59 × 10^20가지에 달하는 암호화 조합 상태가 만들어진다. 동일한 글자를 연속해서 입력하더라도 매번 완전히 다른 암호문이 출력되기 때문에 해독 난도가 극히 높다. 82글자 단문 전보의 경우, 인간 연구원들은 가장 왼쪽에 있는 저속 회전자가 한 번도 회전하지 않았을 것이라고 당연하게 가정했다. 이러한 상식적인 판단은 탐색 범위를 26분의 1 이하로 크게 줄여주었지만, 진실로 향하는 유일한 경로를 차단해 버렸다.
Astra의 전수 탐색은 역설적인 하드웨어 진실을 밝혀냈다. 이 전문의 72번째 글자를 입력하는 순간, 좌측 회전자가 임계치를 넘어 딱 한 칸 회전했던 것이다. 이 이례적인 기계적 동작은 기존 암호 분석의 모든 가지치기 전략을 무너뜨렸다. 인간 전문가들이 연산 비용을 아끼기 위해 저확률 가능성을 배제하는 동안, 기계는 톱니바퀴의 모든 물리적 구석을 충실히 탐색하여 깊숙이 숨어 있던 회전 지점을 찾아냈다.
쌍둥이 전문 발견: 15글자의 반복 지명 앵커로 돌파구를 열다
방대한 암호 공간 앞에서 단순한 무차별 대입만으로는 한계가 있었다. Astra는 역사 자료 속에서 추가 단서를 찾아야 했다. 방대한 데이터 속에서 모델은 같은 날 전송된 또 다른 미해독 전문 Nr. 173(식별 부호 SIPVX)을 찾아냈다. 94글자로 구성된 이 전문은 2017년 6월 9일 암호 연구원 Alex Shovkoplyas에 의해 이미 해독된 상태였다. Astra는 두 전문의 송신 환경과 전술적 맥락이 겹친다는 점을 포착하고, 동일한 무선 통신반이 작성했을 가능성이 매우 높다고 판단했다.
두 암호문의 기본 키 설정은 서로 달랐다. 회전자 배열 순서는 512로 동일했으나, 플러그보드 연결 방식과 초기 링 설정에서 뚜렷한 차이가 있었다. SIPVX의 설정을 MVUEH에 그대로 적용하는 방식은 통하지 않았다. Astra는 평문의 언어적 규칙성에 주목하여 위험도가 높은 크립(알려진 평문 단서)을 가설로 세웠다. 바로 반복되는 지명인 “ROSENOW ROSENOW”였다. 당시 독일군 통신 규정에서 로제노프(Rosenow)는 마을 이름이자 관할 구역 명칭이었다. 이를 두 번 연속 입력하는 것은 영문 전보에서 “NEW YORK NEW YORK”을 연달아 치는 관용적 표현과 같았다.
공백을 포함해 15글자에 달하는 긴 문자열을 단서로 삼는 것은 큰 모험이었다. 만약 원문에 이 15글자가 존재하지 않는다면 투입된 모든 연산 자원이 낭비되기 때문이다. 하지만 에니그마에는 어떤 글자도 자기 자신으로 암호화되지 않는다는 결정적인 하드웨어적 결함이 있었다. 이 결함을 이용하면 크립이 길수록 잘못된 키 후보를 비약적으로 제거할 수 있다. Astra는 그 자리에서 Python과 C++로 에니그마 시ミュ레이터와 가상 봄브(Bombe) 해독 프로그램을 직접 코딩했다. 그리고 반복 지명 앵커를 활용해 방대한 키 공간을 좁혀 올바른 설정을 도출해 냈다.
그림: 블레치리 파크에 전시된 튜링 봄브 복원품. 출처: 위키미디어 커먼즈, CC BY 2.5
해독된 평문은 인간 통신병의 인간적인 실수를 고스란히 드러냈다. 원문 내용은 “행군 경로를 지시해 주십시오. 현재 로제노프, 로제노프에 있음. 즉시 무전으로 회신 바람. 바슈부슈(Btte Marschweg angeben. Bin in Rosenow, Rosenow. Sofort drahten. Waschbusch.)”였다. 통신병은 자판을 치다 오타를 내어 “Bitte(부탁합니다)“를 “Btte”로 잘못 입력했다. 게다가 SIPVX와 달리 발신자 서명을 한 번만 입력했다. 이러한 우발적 결함으로 인해 전문 길이가 94자에서 82자로 줄어들었고, 인간 연구원들의 글자 빈도 분석 패턴을 완전히 교란했던 것이다.
코드를 직접 작성하고 독일 연방문서보관소의 원본 문서 번호까지 추적
암호학계를 가장 놀라게 한 대목은 기계가 역사 문서 고증 과정에서 보여준 자율적인 행동력이었다. 해독 결과의 진위를 검증하고 역사적 배경을 보완하기 위해, Astra는 외부 역사 아카이브 시스템을 능동적으로 검색했다. 인간의 개입 없이 독일 연방문서보관소에 보관된 원본 문서 번호인 RS 3-3/20a와 RS 3-3/63b를 정확히 찾아냈다.
이 두 문서 번호는 Crypto Cellar를 비롯한 온라인 암호학 사이트에 전혀 공개되어 있지 않은 정보였다. 인간 연구자라면 방대한 역사 문헌을 일일이 뒤져야만 찾을 수 있는 자료였다. Crypto Cellar의 운영자 Frode Weierud는 과거 이 문서들을 확인하기 위해 수 주일을 보냈다고 회고했다. 반면 Astra는 과제를 맡은 후 해독 코드 작성, 무선 일지 대조, 사료 교차 검증까지 전 과정을 48시간 이내에 끝마쳤다.
이는 대형 언어 모델의 역량 경계가 실질적으로 확장되었음을 보여준다. 불완전한 단서를 바탕으로 1차 사료를 조회하고 발신자 기록을 대조하는 자율적 행동은 단순한 도구의 영역을 넘어선다. 파편화된 역사를 들고 문서보관소에서 증거를 찾아내는 디지털 지능은 과거 블레치리 파크에서 밤을 새우던 암호 분석가와 본질적으로 다르지 않다.
아래는 인간 연구원과 AI의 해독 워크플로를 비교한 표다:
| 단계 | 인간 연구원 워크플로 (2005~2026년) | GPT-6 Astra 워크플로 (2026년 9월) | 소요 시간 비교 |
|---|---|---|---|
| 목표 선정 | 포럼 게시판 및 수작업으로 미해독 전문 선별 | 암호문 특성 분석 후 쌍둥이 연관성을 지닌 Nr. 172 자율 선택 | 둘 다 수일 소요 |
| 가설 수립 | 상식 기반 가지치기에 의존, 짧은 전문은 좌측 회전자 미작동 가정 | 주관적 가지치기 배제, 반복 지명으로 높은 신뢰도의 크립 구축 | AI의 탐색 범위가 훨씬 넓음 |
| 도구 개발 | 기존 오픈소스 에니그마 해독 스위트에 의존 | 상황에 맞춰 현장에서 Python 및 C++ 시뮬레이터와 봄브 도구 직접 구현 | 인간은 개발 불필요, AI는 수 분 소요 |
| 사료 고증 | 독일 문서보관소에서 마이크로필름이나 기록물 직접 열람 | 외부 역사 문헌 데이터베이스 자율 검색 및 보관 번호 특정 | 인간 수 주 / AI 수 시간 |
커뮤니티 검증과 논쟁: 통신병의 사소한 오타를 냉정하게 밝혀내다
이 기술 실증은 해커 뉴스(Hacker News)에서 즉각 뜨거운 반응을 일으키며 당일 1위에 올랐고 500개 이상의 추천을 받았다. 커뮤니티 일각에서는 인간 연구원이 먼저 해독한 성과를 OpenAI가 사들여 홍보용으로 활용한 것이 아니냐는 의구심도 제기되었다. 최근 빅테크 기업들의 마케팅 행보를 고려할 때 댓글 창에서는 이러한 의심에 대해서도 상당한 공감이 오갔다.
그러나 기술적 진실은 객관적으로 검증할 수 있었다. 커뮤니티는 가장 엄격한 검증 기준을 적용했다. Astra가 제공한 회전자 설정과 초기 키를 사용해 평문을 다시 암호화해 본 것이다. 그 결과 출력된 암호문은 역사적 원문인 ICRVSORMCCWQTATYEVFXDBZGGSNXWLPSYWZYTCBSWULRTBZCVGODVJUSLSOOMJQJZSXSEBZPEYMDNXJYTC와 글자 하나 틀리지 않고 정확히 일치했다. 또한 다른 개발자가 로컬 환경에서 Gemini 3.8 Flash를 활용해 전체 과정을 재현한 결과, 단 45분 만에 동일한 해독에 성공했다고 밝혔다.
82개의 알파벳 조각은 21년 동안 인간 암호학계를 가로막았다. 문제 앞에 선 AI는 인간의 인지를 뛰어넘는 신비한 마법을 쓴 것이 아니다. 단지 인간이 번거롭다는 이유로 확인하지 않던 사각지대를 성실하게 하나씩 점검했을 뿐이다. 72번째 글자에서 발생한 예외적인 회전도, 통신병이 ‘i’ 하나를 빠뜨린 오타도 놓치지 않았다. 85년의 세월을 뛰어넘은 이 암호 대결에서 기계는 인간보다 뛰어난 지능으로 이긴 것이 아니라, 지루한 시행착오에 결코 지치지 않는 끈기로 승리했다.
참고 링크:
- The MVUEH break
- HN 토론 (item?id=49801324)
