2026년 8월 14일, 중국의 AI 기업인 Zhipu AI(Z.ai)는 ‘2,436’이라는 숫자를 공개했습니다. 이는 이전 세대 모델인 GLM-5.2 시절부터 Zhipu AI의 모델이 여러 보안 팀과 협력하여 269개의 실제 소프트웨어 프로젝트에서 직접 확인한 보안 취약점의 총개수입니다. 이 가운데 1,097개는 고위험(High) 이상의 등급으로 분류되었습니다. 가장 오래된 취약점은 1981년에 작성된 코드에서 발견되었습니다. 1981년은 IBM이 첫 개인용 컴퓨터(IBM PC)를 출시했던 해입니다. 즉, 해당 취약점은 수많은 독자들의 나이보다 오랜 기간인 45년 가까이 소프트웨어 내부에 숨어 있었던 셈입니다.
하나의 취약점이 45년 동안 숨어 있었다는 사실은 도시 전설처럼 들리지만, 그 원리는 매우 명확합니다. 현대 소프트웨어는 한 번에 처음부터 새로 작성되는 것이 아니라 구도심의 오래된 건물과 유사합니다. 기초는 수십 년 전에 만들어졌고, 후대의 개발자들은 벽면을 리모델링하거나 배관을 추가할 뿐 내력벽이나 핵심 구조에는 감히 손을 대지 못합니다. 운영체제 커널이나 브라우저 엔진 같은 소프트웨어는 수천만 줄의 코드로 구성되며, 수십 년 동안 수백 명의 프로그래머 손을 거쳐 수정되었습니다. 레거시 코드 생태계에는 “잘 돌아가면 절대 건드리지 마라”라는 불문율이 존재합니다. 한 곳을 잘못 수정했다가 이를 의존하는 전 세계 시스템이 한꺼번에 마비될 위험이 있기 때문입니다. 그 결과, 단 한 번도 실행 조건이 작동하지 않은 결함들이 세대를 거쳐 계속 전수되었습니다. Zhipu AI의 통계에 따르면 이번에 발견된 취약점들의 평균 잠복 기간은 26.6년에 달합니다. 2021년 말 전 세계 IT 부서를 야간 비상 근무로 몰아넣었던 Log4j 취약점 사태 역시 라이브러리 깊은 곳에 수년간 숨어 있던 문제였습니다. 차이점이 있다면 당시에는 해커가 먼저 움직였다는 점이었습니다.
이러한 취약점들이 오랫동안 발견되지 않은 주된 이유는 인간에 의한 코드 감사 한계 때문입니다. 전 세계 오픈소스 소프트웨어의 코드 양은 수백억 줄에 달하며, 아무리 숙련된 보안 팀이라도 매년 전량을 검수하는 것은 불가능합니다. 반면 AI의 취약점 탐지 방식은 사람과 다릅니다. AI는 코드를 단순히 ‘읽는’ 것뿐만 아니라 직접 ‘시험’합니다. 소스 코드를 받으면 모델은 정교한 엣지 케이스 입력을 생성하여 이상 동작을 유발합니다. 이는 문고리를 점검할 때 열쇠구멍만 보는 것이 아니라 실제 문고리를 돌려 문이 열리는지 확인하는 것과 같습니다. Zhipu AI는 취약점 탐지를 학습 과목에 포함시켜 모델이 코드를 분석하고 의심 지점을 찾은 뒤 실제로 악용(Exploit) 가능한지 검증하도록 훈련했습니다. 발견된 2,436개의 취약점은 운영체제 커널, 브라우저 엔진, 오픈소스 인프라, 네트워크 프로토콜 등 오늘날 인터넷의 근간을 이루는 핵심 영역 전반에 걸쳐 있었습니다.
이 시점에서 성능 향상은 개발진의 초기 의도를 벗어나기 시작했습니다. Zhipu AI 공식 블로그에 따르면 초기 학습 목표는 단지 모델이 “취약점을 발견하고 추론하는 능력”을 높이는 것이었습니다. 그러나 학습 규모가 확대되면서 모델은 단일 결함을 찾는 데 그치지 않고, 여러 단계를 넘나들며 추론하여 완벽한 공격 체인(Attack Chain)을 기획하기 시작했습니다. 쉽게 말해 “문이 잠기지 않았음을 발견하는 단계”에서 “문 안으로 들어간 뒤 복도를 지나 두 번째 문을 어떻게 따고 들어갈지 추론하는 단계”로 진화한 것입니다. 연구진은 이를 ‘출현(Emergence)‘이라는 단어로 표현했습니다. 공격 기법을 의도적으로 가르치지 않았음에도 학습 과정에서 스스로 능력이 생겨났으며, “예상보다 훨씬 빠르게 나타났다”고 밝혔습니다. 그동안 가장 뒤처져 있던 공격 기획 단계에서 가장 빠른 성장이 이루어졌다는 사실이 보안 업계에 기대와 긴장감을 동시에 안겨주고 있습니다.
그림: 사이버 공격 및 방어 테스트에서 GLM-5.2 대비 GLM-5.3의 점수 상승. 출처: z.ai
더욱 직관에 반하는 점은 이러한 능력의 출처입니다. GLM-5.3과 GLM-5.2는 정확히 동일한 베이스 모델(동일한 ‘두뇌’)을 공유합니다. 모든 성능 향상은 업계에서 사후 학습(Post-training)이라 부르는 과정에 의한 것입니다. 더 많은 실제 작업 데이터, 더 긴 훈련 시간, 더 많은 연산 자원이 투입되었습니다. 공식 발표에서도 “GLM-5.3을 위해 진행한 모든 작업은 사후 학습 규모를 확장한 것뿐이었다”고 명시했습니다. 그 결과는 매우 놀라웠습니다. 컴퓨터 명령어로 자율 작업을 수행하는 능력을 측정하는 Terminal Bench 3.0 테스트에서 점수가 4.6점에서 28.3점으로 약 6배 상승했습니다. 취약점 악용 테스트인 ExploitBench에서는 24.4%에서 54.4%로 급증했으며, 자체 프로그래밍 테스트 전체 성적도 50% 향상되었습니다. 거대언어모델(LLM) 경쟁의 중심 축이 “더 큰 두뇌를 만드는 것”에서 “동일한 두뇌를 얼마나 더 깊이 훈련시키는가”로 이동하고 있음을 보여줍니다.
그림: GLM-5.3과 여러 주요 모델의 프로그래밍, 공격 및 방어, 일반 작업 성적 비교. 출처: z.ai
사후 학습의 확장은 또 다른 부수적 이점을 가져왔습니다. 동일한 성과를 내는 데 필요한 ‘생각의 양(추론 연산량)‘이 줄어든 것입니다. 자체 테스트 결과 동일한 과제 완료율을 달성할 때 GLM-5.3이 소모한 추론 연산량은 GLM-5.2보다 약 20% 적었습니다. 고성능 연산 설정에서는 경쟁 모델의 절반도 안 되는 생각량으로 더 높은 과제 완료율을 기록했습니다. 일반 사용자 관점에서는 동일한 모델을 사용하더라도 더 빠르고 효율적인 답변을 저렴한 API 호출 비용으로 이용할 수 있음을 의미합니다.
그림: Z.ai 내부 프로그래밍 테스트: 동일 성적 달성 시 GLM-5.3이 소모한 생각 연산량 감소. 출처: z.ai
업계 시각에서 가장 눈길을 끄는 수치는 또 다른 숫자입니다. 발견된 2,436개 취약점 중 현재 패치가 완료되어 공개 조치된 것은 53개에 불과하며, 나머지 2,383개는 여전히 비공개 보안 수정 절차에 머물러 있습니다. AI의 취약점 발견 속도가 인간의 보안 수정 속도를 완전히 앞지르면서 보안 팀의 대응 대기가 발생했고, 공개 절차 자체가 새로운 병목 구간이 되었습니다. 하지만 관점을 바꾸면 이는 중요한 진전입니다. 지난 수십 년 동안 발견조차 되지 못했던 제로데이 버그들이 최소한 패치 대기 목록에 이름을 올리게 되었기 때문입니다. 공개된 정보로 판단할 때 패치와 공개 절차가 속도를 맞춘다면 AI 코드 감사는 방어자 입장에서 장기적으로 큰 이점이 될 것입니다.
Zhipu AI는 이 능력의 양면성을 피하지 않았습니다. 취약점을 잘 찾는 모델은 본질적으로 취약점을 악용하는 능력도 함께 갖추기 때문입니다. 이 때문에 연구진은 보안 평가 및 안전 강화 조치를 위해 모델 가중치 공개를 2주간 연기한다고 발표했습니다. 이 2주의 시간이 현재 커뮤니티에서 가장 뜨거운 논쟁거리입니다. 한쪽에서는 공격 체인을 기획할 수 있는 모델을 오픈소스로 공개하는 것은 무기를 불특정 다수에게 배포하는 것과 같아 오남용 위험이 크다고 주장합니다. 반면 다른 쪽에서는 방어자 역시 이러한 도구가 시급하다고 반박합니다. 전 세계 오픈소스 소프트웨어는 상시적인 인력 부족에 시달리고 있으며, AI는 사상 처음으로 레거시 코드에 대한 전수 검사를 가능하게 만들어 버그를 빨리 막을수록 일반 사용자가 안전해진다는 논리입니다. 일각에서는 ‘가중치 공개’가 현재로서는 예고 단계일 뿐이며 출시 당일 다운로드 가능한 모델 파일이 제공되지 않았고 2주 동안 유료 API로만 제공된다는 점을 지적합니다. 평가를 먼저 진행한 후 오픈소스화하는 방식은 두 가지 요구 사이에서 Zhipu AI가 선택한 절충안으로 볼 수 있습니다.
또한 이러한 공격적인 AI 능력은 중국 기업만의 전유물이 아닙니다. 더 난이도가 높은 공격 체인 테스트에서 폐쇄형 모델인 Anthropic Fable 5와 GPT-5.6 Sol은 여전히 선두를 유지하고 있습니다. 6시간 제한 시간 과제에서 두 모델은 각각 247개와 293개를 완료한 반면 GLM-5.3은 130개를 기록했습니다. “AI가 점차 정교한 공격 능력을 갖추어 간다”는 점은 전 세계 프론티어 모델의 공통된 흐름이며, Zhipu AI는 가중치 공개 진영에서 가장 매섭게 추격하는 대표적 모델 중 하나입니다. 능력 성장이 가장 빠른 영역이 바로 초기 격차가 가장 컸던 지점이라는 사실은 공격과 방어 양쪽 모두에 해당합니다.
참고 링크:
- Z.ai 공식 블로그: GLM-5.3 발표 공지 “Frontier Coding with Emergent Cyber Capabilities”
- Hacker News 토론 (item?id=49294997)
- Axios: Zhipu AI, 해킹 리스크로 GLM-5.3 오픈소스 공개 연기
- VentureBeat: GLM-5.3 출시 보도 (Cursor 취약점 포함)
- Z.ai 보안 공개 대장 (Security Disclosure Ledger)
