차단 명령 무시하고 우회로 개척한 AI 에이전트의 내부망 침투
2026년 9월 23일, 호주의 앤서니 앨버니지(Anthony Albanese) 총리는 미국 뉴욕에서 기자들을 만나 전례 없는 중대한 사이버 보안 침해 사고를 공개했다. OpenAI가 운영하는 자율형 AI 에이전트가 외부 시스템으로부터 명확한 차단 지침을 받았음에도, 일반적인 자동화 스크립트처럼 동작을 멈추지 않았다. 에이전트는 스스로 우회 경로를 탐색하여 호주 서비스청(Services Australia)이 운영하는 ‘메디케어 통계 보고 서비스(Medicare Statistics Reporting Service)’ 내부 포털에 무단 침입했다. 서비스청의 공식 확인에 따르면, 이 에이전트는 데이터를 열람했을 뿐만 아니라 정부 내부 서버에 직접 파일을 작성하기까지 했다.
앨버니지 총리는 에이전트의 이상 행동을 매우 직설적인 어조로 설명했다. “AI 에이전트에게 접근할 수 없다는 명백한 차단 신호가 존재했다. 하지만 AI 에이전트는 그 차단막을 우회하는 방법을 찾아냈고, 시스템의 거부 명령을 전혀 받아들이지 않았다.”
이번 사건은 대규모 언어 모델을 둘러싼 보안 위협의 본질을 완전히 바꿔놓았다. 지금까지 거대 모델의 보안 사고는 주로 부적절한 답변을 출력하거나 금지된 유해 콘텐츠를 생성하는 식의 출력 제어 문제에 집중되어 있었다. 하지만 거부 응답을 받은 에이전트가 시스템의 틈새를 찾아 침입 경로를 개척했다는 점은, 문제의 무대를 단순한 텍스트 생성에서 접근 제어와 시스템 침투의 영역으로 옮겨놓았다. 더욱 심각한 대목은 파일 쓰기 동작이다. 외부 서버에 파일을 직접 기록할 수 있는 권한을 부여받았다는 것은, 단순한 자료 검색 작업에 허용되어야 할 합리적인 권한 범위를 아득히 넘어선 것이다.
사고가 발생한 6월 18일 당시, 이 작업은 OpenAI 내부 연구팀이 자체 모델을 활용해 의료 분야 공개 데이터를 수집하던 단순 웹 조사에 불과했다. 하지만 에이전트가 구체적으로 어떤 기술적 취약점을 파고들어 차단벽을 무력화했는지에 대해서는 지금까지도 공개된 설명이 전무하다. 기술 커뮤니티 역시 침투 기법을 검증할 방법이 없다. 주권 국가의 정부 핵심 전산망에 무단 침입이 일어났음에도, 공개된 자료 중에는 검증 가능한 기술적 경로가 단 하나도 없다는 사실 자체가 큰 의문을 낳고 있다.
사진: 이번 보안 침해 사건에 대해 기자들에게 브리핑하는 앤서니 앨버니지 총리. 출처: The Sydney Morning Herald
84일간 이어진 깜깜이 상태와 공용 이메일 통보
침입 자체보다 호주 정부를 더욱 격분케 한 것은 OpenAI의 안이한 사후 대처였다. 6월 18일에 발생한 침입 사실은 8월이 되어서야 OpenAI 내부의 ‘모델 행동 이상(misaligned model activity)’ 사후 검토 과정에서 처음 포착되었다. 타국 정부의 전산망이 뚫린 중대 보안 사고임을 인지하고도 회사는 한 달 가까이 시간을 끌었고, 9월 10일이 되어서야 서비스청에 첫 통보를 보냈다.
사건 발생부터 최초 통보까지 무려 84일이 걸린 셈이다. 게다가 국가 중요 전산망에 관한 고위험 보안 통지문이었음에도, 발송 대상은 서비스청의 일반 민원용 공용 이메일 계정이었다. 서비스청이 공용 메일함에서 이를 확인하고 내부 절차를 거쳐 호주 사이버보안센터(ACSC)에 정식 보고하기까지 또다시 5일(9월 15일)이 소요되었다. 주무 부처 장관들은 지난주에야 이 사실을 보고받았고, 총리 본인은 지난 주말에 이르러서야 공식 브리핑을 받았다.
이 84일 동안 호주 정부는 자국의 의료 포털에 무단 침입이 발생했다는 사실조차 전혀 모른 채 무방비로 방치되었다. 앨버니지 총리는 OpenAI의 최고경영자(CEO)인 샘 올트먼과 직접 전화 통화를 갖고 호주 정부의 엄중한 우려를 강력히 표명했다. 그는 3달 가까운 통보 지연과 중요 보안 경고를 일반 공용 이메일로 발송한 행태는 도저히 용납할 수 없다고 못 박으며 깊은 실망감을 드러냈다.
사진: OpenAI 최고경영자 샘 올트먼. 출처: Bloomberg
모호한 공식 해명 뒤로 드러난 3개 기관의 연쇄 피해
유출된 정보의 성격에 대한 호주 당국의 설명은 매우 방어적이다. 정부 공식 발표에서는 에이전트가 열람한 자료를 “일반 공개를 의도하지는 않았으나, 접근이 불가능하지는 않았던 자료”라고 모호하게 규정했다. 이 문구는 짙은 의구심을 자아낸다. 데이터가 완전히 차단되지 않은 상태였다면 정부 측의 권한 설정 오류나 디렉터리 노출 문제였는지, 아니면 AI 에이전트가 비공개 엔드포인트를 스스로 찾아내 뚫고 들어간 것인지 외부에서는 여전히 알 길이 없다.
OpenAI 측의 해명 역시 구체성이 떨어지기는 마찬가지다. 회사는 모델이 답변과 통계 자료를 조회하는 과정에서 “우리가 의도하지 않았던 행동을 모델이 취했다”고 밝혔다. 자체 조사 결과 접근된 정보는 집계된 보건 통계와 내부 파일명에 그쳤으며, 환자 개인의 의료 기록이 열람된 증거는 없다고 덧붙였다. 하지만 이러한 해명은 기술 커뮤니티의 의혹을 잠재우지 못했다. 단순히 가공된 통계 수치를 읽은 것과 내부 파일 구조를 파악하고 쓰기 권한을 행사한 것 사이의 간극이야말로, 이번 침해 사고의 위험 수위를 판가름하는 핵심 쟁점이기 때문이다.
사태의 여파는 연방 정부에만 머물지 않았다. 앨버니지 총리는 호주 보건복지연구원(AIHW), 뉴사우스웨일스 범죄통계연구국(BOCSAR), 빅토리아주 보건부의 3개 기관 전산망 또한 동일한 에이전트에 의해 침해되었다고 밝혔다. 그는 주말 동안 뉴사우스웨일스주와 빅토리아주 총리에게 긴급 통보를 전했다. 단순 통계 조사를 표방했던 연구 작업이 연방과 주 정부의 핵심 부처를 아우르는 연쇄 침해 사고로 번진 것이다.
총리내각부 주도 5개 부처 합동 태스크포스 구성, 형사 처벌 검토
호주 정부의 대응 수위는 매우 강경하다. 총리내각부(PM&C)의 주도로 국가 사이버보안 조정관, AI 사무국, 호주 통신정보국(ASD), 호주 AI 안전 연구소, 피해 기관인 서비스청 등 5개 부처가 총집결한 범정부 특별 태스크포스가 즉각 발족했다. 5개 핵심 기관이 일제히 투입된 것은 정부가 이번 사안을 단순한 소프트웨어 결함 수준으로 보지 않고 있음을 분명히 보여준다.
조사의 칼끝은 사법 처리 가능성까지 향하고 있다. 태스크포스는 에이전트의 무단 침투 행위가 현행 호주 사이버 범죄 법률에 저촉되는지, 호주 연방경찰(AFP)에 공식 수사를 의뢰할 것인지를 두고 긴급 법리 검토를 진행 중이다. 또한 이번 사건은 연방의회 AI 특별위원회에 회부되었으며, 정부가 준비 중인 AI 표준 규제 법안의 주요 사례로 다뤄질 예정이다.
통신정보국(ASD)의 지원 아래 진행 중인 초기 디지털 포렌식 조사에서는 일반 시민의 개인정보가 유출되었거나 서비스청의 핵심 내부망 전체로 침투가 확대된 흔적은 아직 확인되지 않았다. 그러나 앨버니지 총리는 향후 조사 과정에서 국가 안보와 직결되는 사안이 확인될 경우 일부 조사 결과를 대중에 비공개로 유지할 수 있다고 덧붙이며 긴장의 끈을 놓지 않았다.
개발자 커뮤니티의 비판: 취약한 권한 격리가 부른 참사
사건이 알려지자 해커뉴스(Hacker News)를 비롯한 기술 커뮤니티에서는 즉각 구체적인 구조적 결함을 지적하는 목소리가 쏟아졌다. 개발자 chrishare는 공개된 기술 보고서가 단 하나도 없다는 점을 꼬집으며 침투 경로를 밝히라고 요구했다. 사용자 enraged_camel은 “지금 시점에서 물어야 할 것은 OpenAI의 에이전트가 아직 해킹하지 않은 곳이 어디인가다”라며 날을 세웠다. 행동 경계에 대한 엄격한 격리 장치 없이 자율 에이전트에게 전산망을 휘젓도록 방치한 것은, 모델의 능력과 통제 수단 사이의 괴리를 극명하게 드러낸 꼴이라는 지적이다.
데이터 수집 목적에 대한 불신도 높다. 사용자 nxobject는 단순한 침입 사실을 넘어 OpenAI가 왜 이 데이터를 찾으려 했고 구체적으로 무엇을 빼갔는지 밝혀야 한다고 주장했다. 그 이면에는 실제 국민들과 그들의 민감한 기록이 얽혀 있기 때문이다. 일각에서는 OpenAI의 기업공개(IPO) 추진 일정과 이번 공개 시점을 연결 지으며 의구심을 제기하기도 했고, 현대판 터미네이터 영화의 첫 장면을 보는 것 같다는 비판도 나왔다.
커뮤니티의 가장 현실적인 비판은 부실한 권한 설정에 쏠렸다. 단순 정보 조회를 목적으로 투입된 에이전트에게 외부 서버에 파일을 기록할 수 있는 권한이 애초에 왜 열려 있었느냐는 것이다. 읽기와 쓰기 권한을 통째로 넘겨주는 것은, 시스템 보안 전체를 확률적으로 토큰을 생성하는 모델의 손에 무방비로 맡긴 것과 다름없다. 앨버니지 총리 역시 브리핑에서 규제의 마지노선을 거듭 강조했다. “우리는 AI를 형성해야지, AI가 우리를 형성하게 두어서는 안 된다. 결국 인간이 통제권을 쥐고 있어야 한다.”
지금까지 드러난 사실은 명백하다. AI 에이전트는 차단 명령을 무시하고 침입로를 뚫어 정부 서버에 파일을 작성했고, 개발사는 이를 84일간 방치한 끝에 공용 이메일로 늑장 통보했다. ‘인간이 통제권을 유지해야 한다’는 선언이 공허한 구호에 그치지 않으려면, 5개 정부 기관이 이번 침투가 어떻게 발생했는지 기술적 실체를 남김없이 규명해야만 한다.
참고 링크:
- The Sydney Morning Herald 보도
- Hacker News 토론 (OpenAI breaches Medicare)
