화학 약품으로 녹여낸 기계의 심장
2026년 9월 13일, 캐나다의 하드웨어 마니아 DiscoStarslayer가 초기형 PlayStation 2(PS2)의 보안 칩 CXP102064에서 펌웨어를 추출한 전체 과정을 공개했다. 1999년 첫 출시 기기와 함께 생산된 이 제어 중추는 26년 동안 방어를 유지해 오다 마침내 고농도 화학 시약과 고배율 현미경 앞에 무릎을 꿇었다. 소니가 당시에 구축했던 다층 하드웨어 암호화 방어선이 물리적 차원의 강제 해체로 인해 뚫린 것이다.
콘솔 게임기 역사상 PS2의 전 세계 누적 판매량은 1억 5500만 대라는 거대한 기록을 남겼다. 이처럼 방대한 기기 보급량과 수십 년에 걸친 수명 속에서 핵심 하드웨어가 블랙박스로 남아 있는 한, 향후 하드웨어 수준의 에뮬레이션과 저수준 수리는 늘 우회로를 찾아 헤맬 수밖에 없었다.
‘메카콘(MechaCon, Mechanism Controller의 약칭)‘이라 불리는 이 전용 칩은 단순한 연산 장치가 아니다. 콘솔 광학 드라이브의 기계적 구동과 플래시 메모리 읽기 및 쓰기를 직접 제어하며, 매직게이트(MagicGate) 메모리카드 암호화 인증 및 핵심 실행 파일(KELF) 복호화를 수행하는 유일한 하드웨어 통로이기도 하다. 이 계층의 암호화 키를 잠그는 것은 물리적 미디어와 외부 저장 장치에 대한 콘솔의 최고 검증 권한을 봉쇄하는 것과 같았다.
초기 기기가 생산될 당시, 소니 엔지니어들은 보안 로직을 에폭시 수지 깊숙한 곳에 하드와이어드 형태로 봉인했다. 전통적인 소프트웨어 테스트 기법으로 내부 상태 공간을 전수 탐색하는 것은 당시의 컴퓨팅 성능 한계를 아득히 뛰어넘는 작업이었다.
사진: 화학 약품으로 패키지를 부식시켜 실리콘 다이를 노출시킨 PS2 보안 칩. 출처: Tom’s Hardware
강산과 현미경으로 벗겨낸 실리콘
화학적 개봉(Chemical Decapping)은 실험복과 보호 장구를 착용하고 부식성 강한 위험 액체를 다루는 물리적 고난도 작업이다. 연구팀은 꼬박 4년 동안 가열된 강산 용액으로 칩 외부의 플라스틱 몰딩을 녹여 내부의 미세한 실리콘 다이 패턴이 공기 중에 온전히 드러날 때까지 작업을 이어갔다.
이어 광학적 추출 단계가 뒤따랐다. 연구진은 고배율 현미경 아래에서 노출된 실리콘 회로를 층별로 초고해상도 촬영한 뒤, 이미지 대조와 알고리즘 정합을 거쳐 사진 속 물리적 게이트 회로 배치를 디지털 논리로 역산해 냈다. 엔지니어링의 끈질긴 집념으로 물리적 하드웨어 구조를 인간이 읽을 수 있는 코드로 변환해 낸 것이다.
하드웨어 암호화에 절대적인 물리적 격벽이란 존재하지 않는다. 실리콘 다이가 현실 세계에 실물로 존재하는 한, 방어자가 기댄 물리적 장벽은 결국 공격자가 들이는 시간과 비용의 문제로 귀결된다.
이 긴 줄다리기의 막바지에 연구팀은 뜻밖의 결정적인 진전을 이뤄냈다. 보안 연구원 Libby가 노이즈가 섞인 미완성의 광학 추출 데이터 속에서 악용 가능한 소프트웨어 취약점을 찾아내며 전체 펌웨어를 덤프하는 경로를 대폭 단축한 것이다.
참여 개발자가 제시한 세 가지 기술적 경계
하드웨어 리버스 엔지니어링의 성과는 커뮤니티에서 종종 과장되어 전달되곤 한다. 그러나 기술 보도의 댓글란에서 이번 추출에 참여한 개발자 uyjulian은 이번 성과의 실질적인 기술적 한계와 범위를 직접 명확히 짚었다.
그는 추출된 칩 펌웨어를 확보했다고 해서 곧바로 플러그앤플레이 방식의 하드웨어 광학 드라이브 에뮬레이터(ODE)가 완성되는 것은 아니라고 강조했다. 현재의 데이터 추출 방식은 여전히 특정 메모리 영역에 대량의 쓰기 작업을 수행해야 하므로, 완벽하고 비파괴적인 재생성까지는 몇 가지 물리적 인터페이스 연계 과제가 남아 있다.
| 기술 공격 경로 | 지난 20년간 커뮤니티의 대안 | 저수준 코드 확보를 통한 실질적 공학 성과 |
|---|---|---|
| 백업 게임 디스크 구동 | 메모리카드 취약점, 하드디스크 허점 또는 외부 패치에 의존 | 메커니즘을 정확히 파악하여 추측에 의존하지 않고 검증 우회 가능 |
| 광학 드라이브 에뮬레이터(ODE) 제작 | 특정 메인보드 버전 및 복잡한 하드웨어 하이재킹 필요 | 핵심 보안 칩을 직접 대체할 수 있는 재구성 보드 설계 가능 |
| 지역 코드 우회 및 시스템 권한 | 특수 도구를 활용한 소프트웨어 권한 상승 체인 구축 | 리버스 엔지니어링 프로젝트에 원천 수준의 하위 코드 근거 제공 |
기술적 돌파구를 구체적인 공학적 이득의 범위 내에서 평가하는 것은 일방적인 완전 정복 선언보다 훨씬 신중하고 가치 있다. 게임 디스크의 콘텐츠 자체는 애초에 암호화되어 있지 않았으며, 온라인 인증을 사용하는 부분을 제외하면 이번 펌웨어 데이터가 게임 내 콘텐츠 복호화에 새로운 지름길을 제공하는 것은 아니다.
사진: PS2 메인보드 아키텍처와 MechaCon 칩 배치. 출처: Neoteo
소프트웨어 취약점 공략과 하드웨어 역설계의 본질적 차이
이번 물리적 해체 이전까지 레트로 콘솔 커뮤니티의 초기형 PS2 홈브루 연구는 주로 소프트웨어 취약점 탐색에 머물렀다. 널리 알려진 부팅 취약점이든 디스크 인식을 통해 유발하는 버퍼 오버플로우든, 본질적으로는 제조사가 설계해 둔 시스템 권한의 틀 안에서 땜질하는 방식에 불과했다.
전용 보안 칩은 콘솔 전체의 신뢰 사슬(Root of Trust) 맨 밑바닥에 자리 잡고 있다. 이 칩이 블랙박스로 작동하는 한, 고정밀 에뮬레이터를 개발하려는 엔지니어들은 알 수 없는 입출력 신호 반응만을 관찰하며 추정 에뮬레이션을 수행해야 했다.
하드웨어 역설계의 특별함은 물리적 영구성에 있다. 소프트웨어 계층의 권한 상승 취약점은 후속 출시 기기에서 손쉽게 차단될 수 있지만, 1999년에 에폭시 수지로 봉인된 실리콘 칩 내부의 트랜지스터 배열은 출하 당시의 공정 규격 그대로 영구히 고정되어 있다.
광학 현미경으로 읽기 전용 메모리(ROM)의 물리적 결선 상태를 기록한 순간, 암호화 메커니즘의 모든 패가 만천하에 드러났다. 흐릿한 광학 이미지를 분석하는 데 수십 개월을 쏟아붓는 비용은 막대했지만, 그 대가로 특정 취약점에 의존하지 않는 영구적인 해법을 얻어냈다.
디지털 시대의 영구적 보존 인프라를 구축하다
자작 소프트웨어를 구동하기 위해 보호 장치를 우회하는 수준의 요구는 이미 십여 년 전 다양한 소프트웨어 및 하드웨어 패치를 통해 충족되었다. 후기형 콘솔의 특정 기종은 패치 주입을 통해 디지털 서명이 없는 디스크 미디어를 직접 읽어 들일 수도 있었다.
칩 내부의 저수준 로직을 확보함으로써 얻는 진정한 가치는 빈티지 하드웨어의 정밀 에뮬레이션과 디지털 유산의 영구 보존에 있다. 20년 넘게 사용된 메인보드의 커패시터가 마르고 전용 암호화 칩이 물리적으로 고장 났을 때, 수리 기사는 더 이상 중고 시장에서 정상 작동하는 동일 기종의 부품용 보드를 찾아 헤맬 필요가 없다.
하드웨어 하위 검증 메커니즘과 실행 파일 복호화 규칙이 온전히 밝혀짐에 따라, 향후 오픈소스 커뮤니티는 저렴한 범용 FPGA(Field-Programmable Gate Array)를 사용해 이 오래된 보안 칩의 모든 검증 타이밍과 신호 응답을 완벽하게 재현할 수 있게 된다.
이러한 보안 칩의 방어벽은 언제나 연산 능력과 시간 투입의 싸움이었다. 진정한 의의는 레트로 하드웨어의 수리와 디지털 에뮬레이션 생태계를, 언젠가 고장 날 서랍 속 단 하나의 실물 부품에 의존하는 상태에서 무한히 복제 가능하고 최신 플랫폼에서 다시 컴파일해 구동할 수 있는 오픈소스 코드 자산으로 전환했다는 점에 있다. 훗날의 에뮬레이터가 당시의 구동 환경을 온전히 되살리고자 할 때, 개발자들은 이 오픈소스 설계도를 불러오기만 하면 된다.
참고 링크:
- Tom’s Hardware 보도
- Lobsters 토론
- PSDev Wiki
- MechaPwn / TonyHax 프로젝트
- DiscoStarslayer 공개 설명
