동일한 작업에서 AI 비용을 20분의 1로 낮춘 텐센트의 추론 혁신

텐센트 훈위안Hy4 flash추론 비용MoE

데이터 소스:텐센트 훈위안 공식 발표

출력 가격은 9분의 1, 작업당 비용은 20분의 1로 절감

2026년 11월 16일, 텐센트 훈위안(Hunyuan)이 Hy4 flash를 발표했다. 공식 API 가격표 기준으로 출력 100만 토큰당 가격은 0.281달러로, 이전 세대인 Hy4의 2.501달러 대비 약 8.9배 저렴해졌다. 캐시 적중 입력 가격 차이는 0.042달러에서 0.003달러로 14배까지 벌어졌다. 그러나 진정으로 주목해야 할 수치는 공식 사내 벤치마크인 워크인덱스(WorkIndex)에 숨어 있다. 완전히 동일한 업무를 수행할 때 Hy4 flash의 평균 작업당 비용은 Hy4의 20분의 1에 불과하다.

Hy4 flash 출시 페이지 메인 이미지 그림: Hy4 flash 출시 페이지 대표 이미지. 출처: 텐센트 훈위안

지난 2년 동안 대규모 언어 모델의 가격 인하 발표는 수없이 이어졌지만, 실제 업무를 마치는 데 드는 작업당 비용을 20분의 1로 깎아낸 사례는 이번이 처음이다. 토큰은 모델 과금의 최소 단위로 대략 글자 하나 또는 반 단어에 해당하지만, 실제 업무는 한 번에 수십만 토큰을 쉽게 소모한다. 토큰 단가를 할인하더라도 모델 출력이 장황해지면 청구서는 여전히 불어난다. 텐센트는 이번 발표에서 비교의 기준을 단순 토큰 단가에서 완결된 작업 단위로 바꿨다. 측정 기준이 바뀌면 순위표도 완전히 재편된다.

이 정도의 비용 절감은 발표회의 일시적인 판촉 행사로는 감당할 수 없다. 모델 아키텍처와 추론 스택 전반에서 층층이 비용을 깎아내야만 가능하다. Hy4 flash의 절감 설계는 아키텍처, 추론 엔지니어링, 사후 훈련이라는 세 가지 계층으로 나뉜다. 아래에서 각각을 자세히 살펴본다.

토큰으로 가격을 매기고, 작업 단위로 결제한다

워크인덱스는 텐센트가 자체 구축한 평가 세트로, 8개 항목 모두 구체적인 결과물 단위로 비용을 산정할 수 있는 실무 업무로 구성되어 있다. 프레젠테이션(PPT) 제작, PPT 수정, 협업 PPT 작성, 협업 마크다운 작성, 문서 편집, 스프레드시트 수식 수정, 오디오 및 비디오 처리, 시각적 이해 등이다. 공식 데이터에 따르면 Hy4 flash의 종합 작업 점수는 Hy4 preview를 소폭 상회하며, 평균 작업당 비용은 Hy4 preview의 13분의 1, Hy4의 20분의 1 수준이다. 최대 성능 구간 피크 시간대 가격으로 계산한 DeepSeek-V4.1-Flash-1017과 비교해도 8분의 1에 불과하다.

공식 성능 대비 비용 분포도 그림: 공식 Figure 1: 사내 WorkIndex 8개 평가 세트와 7개 공개 에이전트 벤치마크에서의 성능-비용 분포. 가로축이 점수가 아니라 비용이라는 점에 주목할 필요가 있다. 출처: 텐센트 훈위안

이 비교 그래프를 읽는 핵심은 캡션에 드러나 있다. 성능 점수는 거의 대등한 수준을 유지하면서 비용만 8분의 1에서 20분의 1 구간으로 급락했다. 텐센트가 비용을 주축으로 배치한 것은 그 자체로 명확한 태도 표명이다. 모델의 실용성을 따지려면 먼저 얼마나 저렴한지부터 물어야 한다는 뜻이다. 각 진영의 공개 점수가 팽팽하게 맞물릴수록, 실제 격차를 벌리는 변수는 청구서 항목으로 옮겨가고 있다.

첫 번째 절감: KV 캐시 크기를 24분의 1로 축소

먼저 KV 캐시(Key-Value Cache)의 역할을 이해할 필요가 있다. 언어 모델은 긴 문서를 읽을 때마다 각 단어와 이전 문맥 사이의 관계를 일종의 필기 노트로 기록해 둔다. 이 메모장이 바로 KV 캐시다. 메모가 두꺼워질수록 GPU 메모리 점유율이 높아지고 매 토큰 생성 시 훑어봐야 하는 페이지가 늘어나 운영 비용이 치솟는다. 긴 문맥을 처리하는 작업에서 비용의 대부분은 바로 이 메모장을 유지하는 데서 발생한다.

Hy4 flash는 하이브리드 어텐션(문맥 구간별로 어텐션 계산 강도를 조절하여 간단한 처리는 연산량을 절약), LatentMoE(대다수 매개변수가 대기 상태로 머물다 필요할 때만 호출되는 전문가 혼합 구조), Engram이라는 세 가지 아키텍처 요소를 결합했다. 공식 수치에 따르면 KV 캐시 메모리 사용량은 Hy3의 24분의 1, Hy4의 6분의 1 수준으로 줄어들었다. 메모장의 두께가 이전의 몇 분의 일로 얇아지면서 100만(1M) 토큰의 컨텍스트 창을 현실적인 비용으로 유지할 수 있게 되었다. 수십만 단어의 장문 문서를 투입해도 GPU 메모리가 고갈되지 않기 때문에 파격적인 저단가가 성립한다. 캐시 적중 입력 가격이 0.003달러로 책정된 것도 같은 원리다. 반복되는 문맥은 다시 계산할 필요가 없고 저장해야 할 메모장 용량도 극적으로 줄어들어 스토리지 비용이 함께 감소한다.

MoE 아키텍처는 연산 자원을 절약한다. 전체 224B 매개변수(이 중 64B는 Engram 모듈) 가운데 토큰당 활성화되는 매개변수는 12B에 불과하다. 224명의 직원이 대기하는 큰 사무실에서 글자 하나가 들어올 때마다 12명만 호출해 일하게 하고 나머지는 급여를 지급하지 않고 대기시키는 구조다. 연산 능력을 철저히 온디맨드로 동원하고 유휴 매개변수에서 전력을 낭비하지 않는 것이 단가를 낮추는 공학적 기반이다.

연산은 빠르게, 대답은 간결하게

아키텍처가 메모리 점유를 줄였다면 추론 엔지니어링은 기계 가동 시간을 줄였다. Hy4 flash의 추론 스택은 메가커널(전체 디코딩 루프를 단일 GPU 융합 프로그램으로 압축해 모듈 간 데이터 전송 지연을 제거), 4비트 양자화(모델 매개변수를 고정밀 부동소수점에서 4비트로 압축해 메모리 대역폭 절약), DFly 스케줄링의 세 축으로 구성된다. 공식 발표에 따르면 디코딩 속도는 초당 150토큰 이상으로 끌어올려졌다. 가격이 저렴해지려면 먼저 빨라야 한다. 동일한 GPU가 1초에 더 많은 토큰을 생성할수록 토큰당 배분되는 장비 가동 시간이 줄어들어 박리다매 구조에서도 적자를 보지 않는다.

사후 훈련은 생성되는 토큰 수 자체를 줄이는 역할을 맡는다. Hy4 flash는 먼저 플래그십 모델인 이전 세대 Hy4로부터 자체 증류(Self-Distillation)를 거쳐 범용 문제 해결 능력을 이어받은 뒤, 강화학습을 통해 핵심을 정확히 전달하되 군더더기를 없애도록 훈련받았다. 공식 통계에 따르면 엔드투엔드 평균 출력 토큰 수가 50% 줄어들었다. 출력 토큰은 과금 체계에서 가장 비싼 구간이다(입력 0.070달러 대비 출력 0.281달러). 말수를 절반으로 줄이면 청구서 금액도 그 자리에서 절반으로 깎인다. 세 계층 가운데 가장 직접적인 효과를 내는 층이다.

이 세 계층이 곱해져야 비로소 20분의 1이라는 수치가 완성된다. 아키텍처가 메모리 유지 비용을 획기적으로 낮추고, 추론 최적화가 기계 가동 시간을 얇게 펴며, 사후 훈련이 가장 비싼 출력 토큰을 절반으로 쳐낸다. 어느 단일 계층만으로는 자릿수가 바뀌는 가격 혁신을 만들어낼 수 없다. 진정한 저렴함은 정교한 공학 설계로 완성되는 것이며, 단순한 판촉용 할인과는 다르다. 전자는 모델 구조와 런타임 스택에 영구히 각인되지만, 후자는 홍보용 안내문에만 머물기 때문이다.

텐센트가 제시한 수치를 해석하는 기준

데이터의 출처를 분명히 짚고 넘어갈 필요가 있다. 위에서 언급한 모든 수치는 텐센트의 공식 발표 자료에 기반한다. 워크인덱스는 사내 자체 벤치마크이며, 평가 항목과 대조군 역시 사내에서 선정했기 때문에 제3자에 의한 독립적 재현 검증은 아직 이루어지지 않았다. 자체 평가 결과표는 필연적으로 자사에 유리한 편향을 내포하므로 객관적인 시각에서 걸러 들을 필요가 있다.

하지만 서로 다른 여러 채널에서 일관된 교차 검증 신호가 관측된다. 사내 워크버디(WorkBuddy) 사용자 85명, 259개 작업, 27개 범주를 대상으로 진행한 블라인드 테스트에서 Hy4 flash의 사용자 만족도는 Claude Haiku 5.5에 근접했으며 엔드투엔드 완료 시간은 가장 짧았고 작업당 비용은 대조 모델 전반보다 뚜렷하게 낮았다. 실제 서비스 라인업에서도 성과가 이어졌다. 업무 보조 도구인 워크버디에서는 평균 작업 소요 시간이 70% 단축되었고 비용은 Hy4의 약 15분의 1로 줄었다. 기업용 위챗(WeCom)의 AI 비서 ‘다위안’은 Hy4 대비 출력 속도가 88% 빨라졌고 사고 모드 출력 토큰이 약 60% 감소했다. QQ의 ‘샤오Q’는 음악 추천, 채널 상호작용, Qzone, 장문 운세 분석 등에서 만족도가 각각 6.16, 2.84, 0.92, 2.22퍼센트포인트 상승했으며, 위안바오의 에이전트 성능 역시 Hy3 대비 13.6% 향상되었다.

블라인드 테스트 결과 그래프 그림: 85명의 WorkBuddy 사용자, 259개 작업, 27개 범주 대상 블라인드 테스트 결과. Haiku 5.5에 필적하는 만족도와 가장 빠른 완료 시간을 기록했다. 출처: 텐센트 훈위안

단일 사내 벤치마크는 자사에 유리하게 맞출 수 있어도 서로 무관한 다수의 실무 제품군에서 동시에 개선 지표가 나타나기는 어렵다. 오피스 도구, 소셜 봇, 자율 에이전트 전반이 일관된 방향성을 보이고 있다는 점에서 이 비용 절감 구조가 실제 상용 환경에서 충분히 작동하고 있음을 유추할 수 있다. 정확한 세부 수치는 제3자 검증을 기다려야 하겠지만 기술적 방향성 자체는 신뢰할 만하다.

프런티어 AI 경쟁의 점수판이 바뀌었다

텐센트는 발표 자료에서 모델 사용의 경계선을 명확하게 그었다. 심층 검색, 문서 처리, 슬라이드 제작, 간단한 프론트엔드 프로토타이핑, 컴퓨터 인터페이스를 직접 제어하는 컴퓨터 유즈(Computer Use) 등 일상적인 생산성 업무에는 Hy4 flash를 권장한다. 반면 장기적 추론이 필수적인 고난도 소프트웨어 엔지니어링에는 지능 상한선이 더 높은 플래그십 Hy4를 계속 추천한다. 두 모델이 공존하며 flash는 비용 효율성에서 승리하고 Hy4는 추론 지능의 정점에서 승리하는 구조로, 어느 한쪽이 다른 한쪽을 완전히 대체하지 않는다.

배포 채널도 폭넓게 열렸다. 텐센트 클라우드 토큰허브(TokenHub), 워크버디, 위안바오, 기업용 위챗, QQ, ima, Marvis에서 즉시 사용할 수 있으며 OpenRouter 연동도 준비 중이다. 11월 30일까지는 워크버디가 무료로 제공되며 토큰허브 API는 50% 할인 혜택이 적용된다. 모델 가중치 오픈소스 공개도 예정되어 있다. 가중치가 공개된 이후 이 ‘KV 캐시 24분의 1 축소 + 메가커널 + 출력 50% 절감’ 조합을 얼마나 많은 오픈소스 개발자와 기업이 채택하고 응용할지가 이 아키텍처의 진정한 가치를 증명하는 시험대가 될 것이다.

처음 언급한 숫자로 돌아가 보자. 프런티어 모델들의 지능 수준이 서로 수렴해 갈 때 작업당 실행 비용은 여전히 자릿수 단위의 격차를 만들어낼 수 있는 핵심 변수다. Hy4 flash의 파격적인 저렴함은 아키텍처, 추론 파이프라인, 사후 훈련을 층층이 최적화하여 범용 성능의 저하 없이 달성되었다. 따라서 이러한 비용 효율성은 모델 가중치와 런타임 스택 자체에 내재되어 있어 다른 진영이 모방하더라도 쉽게 흔들리지 않는다. 차세대 프런티어 경쟁의 전광판에는 두 개의 지표가 오르고 있다. 한쪽은 벤치마크 점수이고 다른 한쪽은 운영 청구서다. 지능 경쟁에서 우열을 가리기 어려워진 지금, 누가 가장 저렴하게 구동할 수 있는가를 둘러싼 진정한 레이스는 이제 막 시작되었다.

참고 링크:

  • 텐센트 훈위안 Hy4 flash 공식 발표 페이지