2026년 11월 4일부터 5일까지 이어진 24시간 동안 중국 인공지능 생태계에서 이례적인 움직임이 일어났다. 텐센트와 바이두가 같은 날 자사의 최신 플래그십 모델을 잇달아 오픈소스로 공개한 것이다. 빅테크 기업들은 더 이상 최고 수준의 모델을 클라우드 안쪽에 가두고 토큰당 과금을 매기는 방식에만 머무르지 않는다. 수천만 위안(수십억 원)에 달하는 막대한 연산 자원의 산물을 외부에 내놓으며, 업계 전체가 짊어져야 했던 가장 값비싼 청구서를 직접 결제했다.
다만 두 회사의 공개 속도에는 차이가 있다. 바이두는 가중치를 즉시 내려받을 수 있도록 배포한 반면, 텐센트는 발표문에서 “조만간 공개”라고 밝혔다. 같은 날 발표되었지만 한쪽은 이미 전달을 마쳤고 다른 한쪽은 배포를 앞두고 있다.
거대언어모델 개발에서 가장 무거운 재정적 부담은 늘 초기 대규모 사전 학습 단계에 집중된다. 모델이 인간의 언어 규칙과 프로그래밍 코드를 체득하도록 만들기 위해 엔지니어링 팀은 수만 장의 가속기 카드를 수개월 동안 쉬지 않고 가동해야 한다. 수십억 원대에 이르는 전기 요금과 감가상각 비용은 중소 스타트업이 감당하기 어려운 장벽이다. 많은 초기 팀이 초기 투자금을 전부 소진하고도 범용 추론 능력을 갖춘 베이스 모델조차 확보하지 못하는 경우가 다반사였다.
24시간 동안 등장한 두 가지 모델 기반: 완제품 에이전트와 순수 베이스 체크포인트
같은 시기에 두 거인은 완전히 상반된 해법을 내놓았다. 텐센트가 발표한 훈위안 Hy4는 완제품 형태에 가깝다. 출시 시점부터 시각 추론과 컴퓨터 조작 능력을 완벽하게 갖추고 있다. 반면 바이두의 ERNIE 5.5 Flash Base는 완전히 백지 상태의 기반을 제공한다. 사전 학습이 완료된 그 순간의 순수 베이스 상태만을 남겨두고, 후속 미세 조정과 정렬 작업은 사용자에게 백지로 남겨두었다.
파운데이션 모델을 만드는 일은 고층 빌딩을 올리는 과정과 흡사하다. 사전 학습이 기초 말뚝을 박고 골조를 타설하는 일이라면, 후속 미세 조정은 실내 인테리어 공사에 해당한다. 바이두는 기술 보고서에서 이번 공개의 목적이 개발자들의 막대한 사전 학습 비용을 덜어주기 위함이라고 분명히 밝혔다. 빅테크가 기초 인프라를 구축하고, 개발자는 응용 애플리케이션을 만드는 산업 분업 구도가 더욱 뚜렷해진 셈이다.
전문 소프트웨어까지 다루는 텐센트: 자체 평가 3.04점의 실체
텐센트가 선보인 Hy4의 핵심 변화는 멀티모달 입력과 전문 작업의 자동화다. 모델은 고해상도 이미지 처리, 복잡한 차트 분석, 시각적 수학 추론 역량을 기본 탑재했다. 소프트웨어 제어 측면에서는 명령줄 인터페이스와 그래픽 화면을 직접 조작할 수 있는 역량을 부여받았다. 데스크톱 디스플레이 화면과 마우스, 키보드 입력을 제어하여 서로 다른 소프트웨어를 넘나드는 연속 작업을 수행하도록 설계되었다.
그림: 시각적 이해와 복잡한 공학 CAD 작업에서 Hy4가 수행하는 실행 파이프라인. 출처: tencent.com
연구팀은 블렌더나 CAD 같은 전문 설계 소프트웨어 데이터를 집중적으로 학습시켰다. 업무 자동화 벤치마크인 WorkBuddy에서 Hy4는 평균 83.18점을 기록하며 12개 시나리오 중 9개에서 1위를 차지했다. 실제 전문 소프트웨어 조작 데이터는 복잡한 다단계 상호작용 과정에서 공간 추론 사슬을 안정적으로 유지하는 데 기여했다. 작은 오류도 허용되지 않는 산업 환경의 요구 조건은 에이전트가 장기 작업 과정에서 오류율을 낮추도록 강제했다.
공식 발표된 금융 블라인드 평가 결과 역시 주목을 끌었다. 현업 금융 전문가 213명이 참여하여 579개의 실제 업무 과제를 평가한 결과, Hy4는 종합 3.04점을 기록했다. 이는 DeepSeek-V4.1-Flash-1017(2.97점)을 근소하게 앞서고, Kimi K3.1 Pro와 GLM-5.3(각각 2.68점)과의 격차를 벌린 수치다. 투자 리서치 벤치마크인 iRaB에서는 프리뷰 버전 대비 12.03퍼센트포인트 상승했다. 근거 없는 가설로 인한 오류율은 23.1%에서 5.6%로 급감했으며, 전체 환각 발생률도 7.2% 수준으로 통제되었다.
다만 이러한 지표는 객관적으로 해석할 필요가 있다. 153명의 외부 전문가가 참여했음에도 평가 주관사는 텐센트 훈위안 팀과 금융기술 부서였다. 개발사 스스로 시험 문제를 출제하고 1위를 차지한 형태인 만큼 지표의 신뢰성을 온전히 받아들이기에는 한계가 있다. 모델의 진정한 내구성은 외부 개발자들이 복잡한 실제 환경에서 직접 검증한 뒤에야 판가름 날 것이다.
바이두의 43개 계층 어텐션 재설계: 33.5조 토큰 연산의 집중 투자
텐센트의 통합 완제품 접근법과 달리 바이두 ERNIE 5.5 Flash Base는 미세 조정의 흔적이 전혀 없는 순수 베이스 모델의 정체성을 보여준다. 총 매개변수는 2800억 개에 달하지만 토큰당 활성화 매개변수는 140억 개에 불과하다. 바이두는 33.5조 개의 토큰을 밑바닥부터 학습시켜 오픈소스 생태계를 위한 단단한 출발선을 놓았다.
그림: 43개 계층의 백본 네트워크와 하이브리드 희소 어텐션 메커니즘을 보여주는 ERNIE 5.5 Flash의 구조. 출처: ernie.baidu.com
이 구조의 묘미는 긴 문맥 추론 시 메모리 사용량을 정교하게 통제하는 데 있다. 통상적인 43계층 구조에서는 모든 층이 전체 문맥 캐시를 유지해야 했다. 바이두는 과감한 결단을 내렸다. 7개 층마다 단 1개 층에만 전체 어텐션을 유지하고, 나머지 6개 층에서는 128개 토큰을 하나의 압축 특징값으로 축약했다.
압축 계층에서 절약한 비디오 메모리는 핵심 연산 계층으로 재배치되었다. 연산 비용이 저렴한 압축 계층에는 512차원의 넓은 헤드를 배치하고, 비용이 큰 전체 어텐션 계층에는 256차원의 좁은 헤드를 적용했다. 메모리 캐시 자원을 핵심 계층에 집중시키는 방식으로 기존의 희소 어텐션 설계보다 뛰어난 효율을 달성했다. 이러한 근본적인 구조 개선 덕분에 100만 토큰에 달하는 초장문 문맥에서도 안정적인 성능을 발휘한다.
그림: ERNIE 5.5 Flash Base와 DeepSeek V4 Flash 등 최신 모델 간의 벤치마크 점수 비교. 출처: ernie.baidu.com
학습 말뭉치 선정에서도 연구팀은 ‘사후 복구 불가능 원칙’을 철저히 고수했다. 저장소 단위의 대규모 코드와 긴 호흡의 논리 분석 텍스트에 가중치를 대폭 부여했다. 프로젝트 단위의 파일 간 상호작용 이해력은 사후 미세 조정 단계에서 메우기 어려운 본질적 역량이기 때문이다. 연산 자원이 가장 많이 소모되는 힘든 작업을 첫 단계에 집중 배치함으로써 베이스 모델의 진정한 효용을 입증했다.
빅테크가 흡수한 사전 학습 부담: 수십억 원 연산 비용을 아끼는 중소 개발사
인공지능 모델의 전체 개발 주기에서 사전 학습은 자본 소모가 가장 극심하며 사후 수정이 불가능한 단계다. 인공지능 생태계 전반에서 재정적 위험이 가장 집중된 중공업적 성격을 띤다. 30조 토큰 규모의 매개변수를 밑바닥부터 구축하려면 최적화된 하드웨어를 갖추더라도 수십억 원의 초기 자본이 투입되어야 한다. 학습 손실이 발산하거나 노드 장애가 발생하면 막대한 전기 요금은 순식간에 데이터센터의 폐열로 사라지고 만다.
해외 개발자 커뮤니티에서 화제가 된 또 다른 사례도 이러한 비용 부담의 무게를 잘 보여준다. 오픈소스 이미지 생성 프로젝트 Pjit-21K는 2만 달러라는 최소한의 검증 학습 비용을 공개한 바 있다. 단순한 개념 검증 수준의 소형 모델조차 독립 개발자의 예산을 순식간에 고갈시킬 수 있다. 빅테크 기업이 자발적으로 고품질 베이스 가중치를 공개함으로써 하류 개발팀은 기초 바퀴를 다시 발명하는 소모전을 피할 수 있게 되었다.
연산 지출의 분산은 개발자들의 자원 배분 전략을 근본적으로 바꾸고 있다. 기초 공사에 들어가는 천문학적인 청구서에서 벗어난 팀들은 한정된 예산을 자사만의 고유한 비즈니스 문제 해결에 집중할 수 있다. 특정 산업 분야를 위한 미세 조정이든 정교한 다단계 도구 호출 로직이든 투자 회수 주기는 대폭 단축된다. 빅테크가 도로를 닦고 산업별 플레이어가 응용을 깊게 파고들며 생태계의 분업 구조가 선명해지고 있다.
기초 공사 완료 이후: 진정한 격전지는 실제 비즈니스 심층부로
두 빅테크가 같은 날 보여준 행보는 인공지능 기술의 산업화 과정에서 필연적인 흐름을 반영한다. 모델 파라미터가 수천억 단위를 넘어서면서 범용 언어 인지 능력은 공공 인프라의 영역으로 들어섰다. 충분한 컴퓨팅 자원을 보유한 대기업이 선행 작업을 전담하면서 업계 전반의 중복 시행착오는 크게 줄어들었다. 파편화된 베이스 모델 구축 경쟁이 마무리되면서 무분별한 연산 자원의 낭비도 잦아들고 있다.
텐센트는 완성도 높은 완제품을 제공했고, 바이두는 순수한 뼈대 구조를 내놓았다. 서로 다른 두 가지 전략은 인공지능 개발의 구조적 분업화를 강력하게 견인하고 있다. 가장 비싼 사전 학습의 문턱이 빅테크에 의해 공공재 형태로 낮아졌다. 가장 큰 청구서가 해결된 지금, 진정한 승부는 복잡하고 정밀한 실제 현장의 문제 해결에서 판가름 날 것이다.
참고 링크:
- 텐센트 훈위안 Hy4 공식 발표 및 시스템 기술 보고서
- 바이두 ERNIE 5.5 Flash Base 아키텍처 기술 보고서
- 해커뉴스(Hacker News) 커뮤니티 토론 (Pjit-21K 학습 비용 및 오픈 가중치)
