1943년, 런던 옥스퍼드 스트리트의 셀프리지(Selfridges) 백화점은 평소와 다름없이 문을 열고 있었습니다. 하지만 백화점 지하 깊숙한 곳에 무게 50,000kg, 전력 소모 30kW에 달하는 거대한 괴물이 숨겨져 있다는 사실을 아는 이는 거의 없었습니다. 영국 총리 윈스턴 처칠이 미국 루스벨트 대통령과 통화할 때마다, 그의 목소리는 이곳 지하에 설치된 30여 개의 진공관 캐비닛과 4대의 정밀 레코드 턴테이블을 거쳐야 했습니다. 단말기 한 대당 당시 가치로 100만 달러가 넘는 천문학적 비용이 투입된 이유는 단 하나, 영국 해협 건너편에서 귀를 기울이던 독일군 도청 요원들을 완벽히 차단하기 위해서였습니다. 완벽하게 안전한 음성 통신은 결코 우아한 수학 공식만으로 완성되지 않았습니다. 50톤에 달하는 쇳덩어리와 상자에 가득 담긴 레코드판을 대서양 양안으로 동시에 수송해내는 막강한 물리적 물류 역량이 있었기에 가능했습니다.
독일 우체국에 뚫린 대서양 횡단 전화, 무너진 아날로그 스크램블러 방어선
제2차 세계대전 초기, 미·영 최고 지도부의 대서양 횡단 통화는 AT&T가 개발한 A-3 아날로그 음성 스크램블러에 의존했습니다. 이 장비는 인간 음성의 고주파와 저주파 대역을 쪼개 뒤집은 뒤 단파 무선 채널로 전송했습니다. 일반 아마추어 무선사들에게는 귀를 찌르는 날카로운 소음으로만 들렸습니다. 그러나 아날로그 신호에는 치명적인 약점이 있었습니다. 주파수를 아무리 잘게 썰고 재배치하더라도 원래 음파가 지닌 물리적 에너지 특성은 공기 중에 그대로 남아 있었습니다. 도청자가 동일한 규칙의 역방향 필터를 적용하면 본래의 목소리가 고스란히 복원되었습니다.
독일 제국우편연구소(Forschungsanstalt der Deutschen Reichspost)의 엔지니어들은 A-3의 스펙트럼 반전 규칙을 빠르게 파악했습니다. 그들은 점령지에 거대한 도청 안테나를 세우고 루스벨트와 처칠의 극비 대화를 마치 라디오 드라마를 듣듯 실시간으로 감청했습니다. 물리적 변환 규칙이 노출되는 순간 아날로그 암호화의 방어선은 무용지물이 되었습니다. 연합군 엔지니어들이 아무리 주파수 조절 손잡이를 미세하게 조정해도 독일 측의 복원 시간을 몇 분 늦추는 것에 불과했습니다. 전파를 타고 흐르는 신호가 연속적으로 변화하는 아날로그 음파인 한, 도청자는 파형을 역추적하여 언젠가는 원래 대화를 완벽히 복원해낼 수 있었습니다.
1941년, 벨 연구소(Bell Telephone Laboratories)는 이론적으로 절대 복원할 수 없는 전화 시스템을 개발하라는 지상 과제를 부여받았습니다. 클로드 섀넌(Claude Shannon)을 비롯한 수학자들은 유일한 해법으로 ‘일회용 패드(One-Time Pad, OTP)‘를 제시했습니다. 음성을 디지털 신호로 변환한 뒤 진정한 물리적 무작위 노이즈를 섞고, 각 노이즈는 단 한 번만 사용한다는 개념이었습니다. 수학적 원리는 완벽했습니다. 하지만 엔지니어링 팀은 가혹한 현실과 마주해야 했습니다. 트랜지스터가 발명되기도 전인 1942년, 그들은 오직 유리 진공관만을 사용하여 이 거대한 디지털 암호화 시스템을 구현해야 했습니다.
1초에 목소리를 50조각으로 해체, 1500보드 협대역에 구겨 넣다
일회용 패드로 목소리를 암호화하려면 가장 먼저 연속된 아날로그 음파를 이산적인 디지털 값으로 바꿔야 했습니다. SIGSALY는 인류 역사상 최초로 펄스 부호 변조(PCM, Pulse-Code Modulation) 방식을 실전에 투입했습니다. 마이크는 더 이상 음파를 그대로 전파로 송출하지 않았습니다. 보코더(Vocoder)가 1초에 50번, 즉 20밀리초마다 목소리를 잘라내어 분석했습니다. 성대의 진동 주파수, 유성음과 무성음의 판별, 10개 주파수 대역의 에너지 크기를 추출해냈고, 생생한 사람의 목소리는 건조한 특징 파라미터 수치로 해체되었습니다.
왜 목소리를 이토록 잘게 해체해야 했을까요? 1940년대 대서양 횡단 단파 무선의 대역폭이 극도로 좁았기 때문입니다. 전체 음파 파형을 그대로 디지털화하면 전송 대역폭이 순식간에 폭발해 버릴 수밖에 없었습니다. 벨 연구소는 추출된 음성 특징량을 압축한 뒤 12개의 독립된 협대역 고주파 무선 채널에 나눠 담았습니다. 각 채널은 디지털 6레벨 다중 주파수 편이 변조(MFSK) 방식을 채택하여 전송되었으며, 전체 회선의 전송 속도는 오늘날 환산 기준으로 고작 1500보드(baud)에 불과했습니다. 1500보드라는 극도로 좁은 대역폭으로 대서양 횡단 전이중 실시간 통화를 구현한 대가로, 수신 단말기에서는 기계가 재합성한 감정 없는 무미건조한 ‘로봇 음성’이 흘러나왔습니다.
사진: SIGSALY 단말기의 절반(수신부). 전체 시스템은 높이 2m에 달하는 19인치 캐비닛 30여 개와 4대의 턴테이블로 구성되었으며, 수많은 진공관의 발열을 식히기 위해 독립된 냉방 장치가 필수적이었습니다. 출처: Crypto Museum
처칠이 수화기 너머로 열변을 토해도 워싱턴 국방부의 루스벨트가 듣는 소리는 억양이 전혀 없는 기계 합성음이었습니다. 음색만으로는 상대방이 누구인지조차 알아볼 수 없었습니다. 하지만 이러한 인위적인 왜곡 덕분에 독일 도청 부대가 단서로 삼던 음향적 흔적이 완전히 지워졌습니다. 전파를 타고 흐르는 것은 인간의 목소리가 아니라, 암호 키와의 결합만을 기다리는 6진법 디지털 숫자들의 나열뿐이었습니다.
12분 만에 소진되는 레코드판, 대서양을 가로지른 4대 턴테이블의 교대
디지털 신호가 준비되었지만, 대서양 양안에서 완벽하게 일치하면서도 완전히 무작위적인 암호 키 스트림을 어디서 구할 수 있었을까요? 벨 연구소 엔지니어들은 당시의 레코드 음반 산업으로 시선을 돌렸습니다. 그들은 대형 수은 아크 정류관이 방출하는 순수한 전자 열잡음을 증폭시킨 뒤, 이 물리적 난수 노이즈를 비닐 레코드판에 직접 커팅했습니다. 1943년 초기 모델에는 ‘SIGGRUV’라는 암호명의 비닐 음반이 쓰였고, 이후 내구성을 높이기 위해 아세테이트 코팅 알루미늄 디스크인 ‘SIGJINGS’로 대체되었습니다.
암호 레코드판을 1장 제작할 때마다 기술자들은 전기적으로 정밀하게 연결된 두 대의 음반 커팅 머신으로 동시에 홈을 팠으며, 정확한 시작 인덱스 마크를 음반에 새겼습니다. 하나의 마스터 레코드당 철저하게 ‘단 2장의 복사본’만 만들었습니다. 한 장은 워싱턴에 남겨두고, 다른 한 장은 무장 호송 요원의 삼엄한 경호 속에 대서양을 건너 런던으로 보내거나 남태평양 전선의 맥아더 장군 지휘함으로 운송했습니다. 암호화 알고리즘이 수학적으로 완벽한 불패의 영역에 도달하자, 전체 시스템의 취약점은 암호학에서 무장 호송과 물리적 폐기 규율이라는 현장 운용의 영역으로 옮겨갔습니다.
사진: 정밀하게 연동되는 2대의 턴테이블. 한쪽에서 암호 키 레코드를 재생하는 동안 다른 한쪽이 다음 레코드를 장착하고 대기하여, 12분마다 중단 없이 키를 전환하는 기계 공학적 토대가 되었습니다. 출처: Crypto Museum
레코드판 한 장에 담을 수 있는 암호 키는 고작 12분 분량에 불과했습니다. 반면 수뇌부 간의 군사 회의는 30분을 훌쩍 넘기기 일쑤였습니다. 레코드판을 교체하는 동안 통화가 끊기지 않도록 각 SIGSALY 단말기에는 4대의 정밀 턴테이블이 배치되었습니다. 전이중 통화를 지원하기 위해 송신과 수신에 각각 2대씩 할당되었습니다. 동일한 방향을 담당하는 2대의 턴테이블은 긴밀하게 연동되어 작동했습니다. 첫 번째 레코드의 재생이 끝나갈 무렵, 옆 턴테이블의 두 번째 레코드가 시작 인덱스에 바늘을 맞춘 채 대기하다가 정확한 시간에 즉각 전환되었습니다. 통화가 끝나면 미 육군 제805신호서비스중대의 전담 요원들이 방금 사용한 레코드판을 그 자리에서 분쇄하고 불태웠습니다. 복호화 가능한 어떤 사본도 남겨두지 않았습니다.
수천 킬로미터 떨어진 대서양을 사이에 두고 런던과 워싱턴의 레코드 바늘을 어떻게 밀리초 오차 없이 동기화했을까요? 그 비밀은 앞서 언급한 초당 50회(20밀리초 간격)라는 낮은 샘플링 속도에 있었습니다. 전자 공학에서 20밀리초의 시간 창은 상당히 여유로운 간격입니다. 두 단말기는 전파를 통해 실시간 보정 신호를 주고받을 필요가 없었습니다. 각자의 턴테이블 모터를 초정밀 수정 발진기로 구동하고 통화 시작 전 시작 위상만 맞춰두면, 몇 시간 동안 눈에 띄는 위상 편차 없이 안정적으로 회전했습니다. 20밀리초라는 굵직한 샘플링 간격을 선택함으로써 대서양을 가로지르는 기계식 턴테이블의 몇 시간에 걸친 무보정 동기화를 달성한 것, 이는 하드웨어 제약 시대가 낳은 가장 탁월한 공학적 절충안이었습니다.
3,000건의 기밀 통화 완전 방어, 바닷속으로 사라진 50톤의 거인
1943년 4월, 연합군의 시칠리아 상륙 작전을 두 달 앞두고 뉴욕 웨스턴 일렉트릭에서 제작된 SIGSALY가 실전에 전격 투입되었습니다. 1946년 퇴역할 때까지 전 세계 12개 거점에 배치된 단말기들은 연합군 최고위급의 기밀 통화 3,000건 이상을 단 한 번의 유출도 없이 지켜냈습니다. 독일 감청 부대는 수많은 6레벨 무선 펄스를 가로챘지만 종전까지 단 한 음절도 풀어내지 못했습니다. 종전 후 미군의 복원 해체 절차가 시작되면서 엄청난 제작비가 투입된 이 대형 캐비닛들은 수많은 기밀 문서와 함께 일괄 폐기되었습니다. 일설에 따르면 퇴역한 대형 캐비닛들이 배에 실려 깊은 바닷속으로 수장되었다고 전해집니다.
이후 벨 연구소는 캐비닛 6개 크기로 축소하여 군용 트럭에 실을 수 있는 후속 기종 ‘Junior X(군용 제식명 AN/GSQ-3)‘를 개발했으나 제2차 세계대전이 끝나기 전 실전에 배치되지는 못했습니다. 하지만 SIGSALY가 남긴 기술적 유산은 바닷속으로 사라지지 않았습니다. 음성을 1500보드 협대역에 구겨 넣기 위해 짜내야 했던 특징 추출 및 음성 합성 기술은 훗날 LPC-10, CELP, MRELP 등 현대 음성 압축 표준의 직접적인 모태가 되었습니다. 오늘날 전파가 미약한 환경에서 스마트폰이 음성 데이터를 압축하여 통화를 유지할 수 있는 것은, 바로 그 30개의 진공관 캐비닛이 남긴 직계 기술 덕분입니다.
1943년 옥스퍼드 스트리트 백화점 지하실에 있던 4대의 레코드 턴테이블을 되돌아보면, SIGSALY는 오늘날 모든 보안 엔지니어에게 묵직한 물리적 교훈을 던져줍니다. 수학적인 ‘완벽한 해독 불가’에는 언제나 상응하는 물리적 비용이 따릅니다. 도청자가 해답을 계산해내지 못하게 하려면, 대화가 이어지는 매 1초마다 1초 분량의 물리적 무작위 노이즈를 미리 생산해두어야 합니다. 그리고 이를 비행기와 군함으로 지구 반대편까지 실어 날라야 하며, 50톤에 달하는 뜨거운 기계 장치로 두 개의 바늘을 정확한 박자에 묶어두어야 합니다. 알고리즘은 칠판 위에 적을 수 있지만, 진정한 보안은 제시간에 배송되고 제시간에 한 줌의 재로 타버린 알루미늄 디스크를 통해 완성되었습니다.
참고 링크:
- Crypto Museum: SIGSALY 보안 디지털 음성 시스템 기술 기록
- Hacker News 토론
