2026년 9월, 암호 분석 벤치마크 기업 발스 AI(Vals AI)의 연구원 게비 자프(Geby Jaff)는 370년 동안 미해독 상태로 남아 있던 고대 암호를 Claude Fable 5.1 모델에 입력했다. 사람의 개입이 전혀 없는 상태에서 모델은 176k 토큰을 소모하며 단 44분 만에 완전한 평문을 복원해 냈다. 높은 처리량 기반의 장기 추론 능력이 인간 연구자가 며칠 동안 꼼짝없이 매달려야 했던 고단한 대조 작업을 점심 식사 한 끼 시간으로 압축해 버린 것이다.
3세기에 걸친 미스터리를 44분 만에 끝내다
역사적인 미해독 암호에는 저마다 고유한 텍스트적 맥락이 얽혀 있다. 1653년 스코틀랜드 왕당파 귀족인 토머스 어쿼트 경(Sir Thomas Urquhart)은 자신의 저서 《Logopandecteision》 말미에 ‘Cyphral Distich(암호화된 2행시)‘라는 암호문을 남겼다. 이 암호문은 두 줄로 배열된 숫자들로 이루어져 있으며 각 줄에 32개씩, 총 64개의 숫자로 구성되어 있다. 짧은 길이의 암호문은 수학적 공격에 본질적으로 강한 저항성을 지닌다. 표본이 극히 제한적인 탓에 고전적인 통계적 분석 도구들이 전혀 힘을 쓰지 못하기 때문이다.
1899년 권위 있는 학술 저널 《Notes and Queries》는 이 암호를 공개 난제로 게재하고 공식적으로 해독을 공모했다. 이후 100년이 넘는 세월 동안 이 암호는 암호학 역사 아카이브에서 풀리지 않는 오랜 골칫거리로 남았다. 저명한 역사 암호 연구자인 클라우스 슈메(Klaus Schmeh)는 이를 전 세계 50대 미해독 암호 목록에 올리기도 했다. 그동안 수많은 최고 수준의 인간 암호학자들이 도전하며 모든 고전적 분석 기법을 쏟아부었다. 자연어 통계 법칙을 활용한 글자 빈도 분석부터 환자 암호 검증, 구조가 훨씬 복잡한 다표 동음 환자 분석까지 망라되었다. 인간 전문가들은 무의식중에 정교한 수학적 미로를 가정한 채, 방대한 에너지와 계산 능력을 복잡한 수식 검증에 낭비하고 있었다.
Fable 5.1은 이 44분 동안 완전히 다른 문제 해결 논리를 보여주었다. 모델은 인간 전문가들이 지닌 뿌리 깊은 학문적 고정관념에 얽매이지 않았고, 그럴듯해 보이는 단 하나의 수학적 방향에 매몰되지도 않았다. 해독이 진행되는 전체 과정 동안 작업자는 단 한 번의 힌트나 개입도 제공하지 않았다. 인간의 개입이 전무했던 이 완전 자율 연산 과정은 하나의 분명한 사실을 입증했다. 방대한 텍스트 탐색이 요구되는 작업에서는 단일한 알고리즘의 깊이보다 기계가 보여주는 시행착오의 끈기가 훨씬 더 강력한 돌파력을 발휘한다는 점이다.
그림: 게비 자프가 Fable 5.1을 활용해 암호를 해독한 시스템 상호작용 인터페이스. 출처: Vals AI
평범한 책장 속에 숨겨져 있던 해답
64개 숫자 뒤에 숨겨진 진실이 드러났을 때, 해독의 열쇠는 다름 아닌 책 자체의 텍스트 구성 안에 자리 잡고 있었다. 자프는 보고서에서 이번 해독 과정을 두고 “사후에 돌아보면 인간에게 꽤나 민망한 일(quite embarrassing for humans in hindsight)“이라고 솔직하게 평가했다. 단순한 첫 글자 따기(acrostic) 단어 색인 놀이가 수세대에 걸친 학자들의 눈을 속였고, 심오한 학문적 프레임워크가 오히려 시야를 가리는 눈가리개 역할을 했던 셈이다.
모델은 방대한 텍스트 속에 묻혀 있던 두 가지 평범한 단서를 기민하게 포착했다. 첫 번째는 숫자의 명백한 일치였다. 저자인 어쿼트는 본문 앞에서 “32보다 더 적합한 숫자는 없다”며 유독 ‘32’라는 숫자를 거듭 강조했다. 그리고 공교롭게도 암호문은 32개의 장황한 탄원서(Proquiritations) 바로 뒤에 배치되어 있었다. 두 번째로, 암호문에 첨부된 시 구절은 노골적인 힌트를 담고 있었다. 저자는 정직한 독자라면 이곳에서 “그 자신의 마음속 소원과 저자의 뜻(his own heart’s wishes, and the Author’s minde)“을 읽어낼 수 있을 것이라고 약속했다. 인간 독자에게는 의미 없는 수사적 표현으로 비쳤을지 모르지만, 모델은 모든 텍스트 블록을 동등하게 탐색하며 무관해 보이는 구절이라고 해서 그냥 지나치지 않았다.
해독 규칙은 놀라울 만큼 직관적이었다. 암호문의 i번째 숫자는 i번째 탄원서 안에 있는 특정 단어의 위치(단어 색인)를 가리키며, 그 단어의 첫 글자를 추출하면 평문이 완성된다. 도출된 평문은 다음과 같았다. “O GOD UPHOLD KING CHARLS THE SECOND AND / MAKE HIM THE SUPREME RULER OF THIS LAND” (하느님, 국왕 찰스 2세를 보살피시고 그를 이 땅의 지고한 통치자로 세우소서) 각각 32개의 철자로 이루어진 두 줄의 문장은 완벽한 각운(and / land)을 이루고 있었으며, 예고되었던 2행시(distich) 형식과 정확히 들어맞았다. 완고한 왕당파였던 어쿼트의 정치적 입장과도 한 치의 어긋남이 없었다. 이처럼 스스로 정답을 입증하는 자체 검증 구조는 시스템에 명확한 보상 함수를 제공했고, 올바른 가설에 도달하자마자 결과는 순식간에 수렴했다.
연산력이 지워버린 인내심의 비용
Fable 5.1은 역사의 장막 앞에 놓여 있던 인간의 ‘주의력 공백’을 메워주었다. 자프가 지적했듯, 역사상 수많은 미스터리는 결국 인간 인내심의 한계라는 병목에 가로막혀 있었다. 이러한 수수께끼를 풀려면 누군가 기꺼이 몇 시간 혹은 며칠 동안 난해한 고문헌을 뒤적이며 얼핏 황당해 보이는 가설들을 묵묵히 검증해야만 한다.
실제 고대 암호 연구 현장은 좌절감을 주는 지루한 소모전으로 가득 차 있다. 연구자는 판독이 어려운 17세기 조판 인쇄물을 마주하고, 난해한 초기 근대 영어를 한 글자씩 해독해야 하며, 결국 막다른 길로 이어질 무수한 인용 문헌을 추적해야 한다. 극도의 세심함을 요구하는 이 육체적 노고는 생물학적 인간의 희소한 인내심 자원을 급속도로 고갈시킨다. 노련한 전문가가 꼬박 사흘 밤낮을 바치고도 아무런 진전을 보지 못하고 가설의 언저리조차 확인하지 못할 때, 연구를 포기하고 손실을 줄이는 것이 유일하게 합리적인 선택이 되곤 한다.
대형 언어 모델은 이러한 지루한 소모전을 대신 떠안았다. 176k 토큰의 처리량은 현대 클라우드 인프라 관점에서 매우 저렴한 연산 작업에 불과하다. 시스템은 정답의 실마리를 찾아낼 때까지 지치는 법 없이 모든 갈래의 경로를 검증한다. 연산력이 학자들을 대신해 무미건조한 역사적 문헌들을 훑어내기 시작하면서, 시간 속에 묻혀 있던 소박한 수수께끼들이 대규모로 해결될 전기를 맞이했다.
그림: 1641년 조지 글로버가 판화로 제작한 토머스 어쿼트 경의 초상화. 출처: 위키미디어 공용
285개의 숫자로 이루어진 두 번째 암호까지 연속 해독
시스템은 동일한 접근 논리를 바탕으로 연이은 전과를 올렸다. 첫 번째 수수께끼를 해결한 뒤, 모델은 어쿼트가 1652년에 출간한 《The Jewel》에 실린 ‘Cyphral Octastich(암호화된 8행시)’ 해독에 착수했다. 이 암호문은 무려 285개의 숫자로 이루어져 있었다. 긴 텍스트에 대한 성공적인 적용은 알고리즘의 일반화 능력을 입증하며 앞선 성공이 단순한 요행이 아니라 재현 가능한 공학적 방법론임을 증명했다.
두 번째 암호에서는 규칙에 약간의 변형이 일어났다. 단서의 기준이 문단에서 페이지 번호로 이동하여, k번째 숫자가 책의 k번째 페이지를 가리키고 있었다. 모델은 판독 가능한 275개 위치 가운데 231개에서 정확한 첫 단어 일치를 기록했다. 84%에 달하는 높은 검색 적중률은 해독 방향의 타당성을 입증했으며, 방대한 텍스트 라이브러리 내에서 기계가 보여준 주소 지정 정확도는 육안의 한계를 훌쩍 뛰어넘었다.
다만 이 과정에서 9개의 글자는 끝내 복원되지 못했다. 초기 활판 인쇄술의 한계로 인해 페이지 번호 오기와 잉크 번짐, 그리스어 텍스트의 불완전한 전사 오류가 빈번했기 때문이다. 자프의 설명에 따르면 ±1 페이지의 편차가 존재하는 위치들을 정확히 바로잡으려면 1983년 잭 앤 라이얼(Jack & Lyall)의 실물 영인본을 직접 대조해야 한다. 디지털 세계의 연산력이 물리적 아카이브의 경계에 닿았을 때, 현실 세계 인쇄물의 결함이 단단한 장벽을 형성한 것이다.
시행착오 비용이 0에 수렴할 때 바뀌는 게임의 규칙
지난 몇 달 동안 자프는 여러 최첨단 프론티어 모델을 활용해 이러한 미해독 암호를 풀어보려고 시도해 왔다. 그러나 상호 교차 검증을 통과한 해독 결과를 내놓은 모델은 단 하나도 없었다. 장기적인 자기반성 루프가 결여된 단발성 추론 네트워크로는 반복적인 시행착오와 궤도 수정이 필수적인 복합 과제를 감당할 수 없었기 때문이다.
Fable 5.1은 막다른 골목을 탐색하는 데 드는 시간 비용을 획기적으로 줄였다. 문제 해결 논리는 지극히 명료했다. ‘가설을 세우고, 본문을 읽고, 가설을 검증한 뒤, 실패하면 즉시 방향을 전환한다.’ 시스템은 시행착오의 한계비용을 0에 가까운 영역으로 끌어내렸다. 인간 연구자가 일주일 내내 매달려야 배제할 수 있는 잘못된 경로를 클러스터는 단 1초 만에 기각할 수 있다.
이번 성과는 프론티어 기술 경쟁의 새로운 현실을 보여준다. 지금까지 인류의 탐구를 가로막아 온 것은 지능의 부족이라기보다 한정된 체력과 쉽게 마모되는 인내심이었다. 방대한 시행착오에 드는 비용을 연산력이 감당할 수 있게 된 지금, 묵묵한 인내를 필요로 하던 과거의 난제들은 자율 에이전트에 의해 차례로 풀려나갈 것이다.
참고 링크:
- Vals AI 보고서
- Hacker News 토론 (item?id=49688695)
- 클라우스 슈메의 미해독 암호 목록
