4개월 만에 대규모 언어 모델(LLM)의 토큰 단가가 80% 폭락했음에도, 기업들의 컴퓨팅 총지출은 오히려 가파르게 증가하고 있다. 비용 진입 장벽이 무너지자, AI 코딩 어시스턴트는 수 분 만에 수천 번의 자율 상호작용 루프를 실행하기 시작했다. 추론 연산은 일상적인 소모품으로 빠르게 전환되고 있으며, 단가가 떨어질수록 시스템 전체의 소비량은 기하급수적으로 폭증하는 구조가 정착되었다.
기술적 원가 구조의 변화는 프론티어 모델이 누리던 가격 프리미엄을 완전히 걷어냈다. 자율 에이전트 개발 환경에서 전체 비용의 96% 이상은 프롬프트 캐시 읽기에 집중된다. 전 세계 29개 독립 호스팅 업체가 동일한 모델을 두고 수주 경쟁을 벌이고 있으며, 개발자는 설정 파일 한 줄만 바꾸면 즉시 공급업체를 전환할 수 있다. 전환 비용이 전혀 없는 완벽한 구매자 우위 시장에서, 폐쇄형 AI 선두 기업들이 가격을 올려 막대한 인프라 투자금을 회수할 수 있는 길은 완전히 차단되었다.
4개월간 네 차례 연속 인하: 두 거인이 촉발한 가격 전쟁
2026년 6월부터 9월까지, OpenAI와 Anthropic은 불과 4개월 만에 주력 모델의 정가를 80% 가까이 깎아내렸다. 시장에서는 통상 이러한 가격 인하를 초기 플랫폼의 적자 감수 출혈 경쟁으로 해석하며, 경쟁사를 제거한 뒤 독점적 지위를 이용해 가격을 다시 올릴 것이라고 내다보았다. 그러나 실제 기술 원가표는 정반대의 현실을 드러낸다. 두 선두 기업은 독점 가격을 책정할 만한 진입 장벽을 애초에 쥐고 있지 않았으며, 극심한 원가 경쟁 속에서 가격을 다시 올릴 수 있는 퇴로를 완전히 상실했다.
가격 파괴는 매주 숨 가쁘게 진행되었다. 2026년 6월 26일, OpenAI는 GPT-5.6 Sol과 보급형 모델 Luna를 공식 출시했다. 당시 공식 요금 기준(입력 100만 토큰 / 출력 100만 토큰 / 캐시 읽기 100만 토큰)은 각각 $5/$30/$0.50 및 $1/$6/$0.10으로 책정되었다. 그러나 불과 나흘 뒤인 6월 30일, Anthropic이 Claude Sonnet 5를 $2/$10/$0.20라는 파격적인 가격으로 전격 출시하며 정면 승부를 걸었고, 당시에는 이를 한시적 프로모션이라고 강조했다.
가격 경쟁은 7월 말 한층 더 격화되었다. 7월 24일 Anthropic이 최고 사양 플래그십 모델인 Claude Opus 5($5/$25/$0.50)를 출시하자, 일주일도 지나지 않은 7월 30일 OpenAI는 GPT-5.6 Luna의 가격을 기습적으로 80% 인하하여 $0.20/$1.20/$0.02라는 극단적인 수준까지 낮췄다. 이 조치는 경량 모델이 누리던 마진 프리미엄을 완전히 지워버렸다. 결국 Anthropic은 8월 10일 가격 인상 계획을 철회하고, Sonnet 5의 프로모션 요금을 영구 기본 요금으로 확정했다.
방어적 가격 인하는 곧 업계 전반의 관성으로 자리 잡았다. 8월 21일, OpenAI는 GPT-5.6 Sol의 단가를 20% 추가 인하하여 $4/$20/$0.40로 조정했다. 주력 모델의 카탈로그 단가가 몇 달 만에 거듭 반토막 나면서, 첨단 모델이 유지해 온 막대한 기술 프리미엄은 완전히 거품이 빠졌다.
청구서의 숨은 레버리지: 지출의 90% 이상이 ‘캐시 읽기’
언어 모델의 가격표를 처음 접할 때, 많은 이들은 입력과 출력이라는 두 개의 숫자 열에만 집중한다. 그러나 실제 개발 현장에서 청구서의 총액을 결정하는 것은 언제나 세 번째 열이다. 비용의 진정한 레버리지는 바로 ‘캐시 읽기(Prompt Cache Read)’ 단가에 숨어 있다.
엔지니어가 코딩 어시스턴트를 활용할 때, 코드 한 줄을 수정할 때마다 전체 대화 이력과 프로젝트 배경 파일이 다시 패키징되어 모델로 전송된다. 이렇게 반복 전송되는 컨텍스트에 대해 모델은 깊은 추론을 처음부터 다시 수행하지 않으며, 가속기 VRAM에 저장된 기존 연산 결과(KV 캐시)를 즉시 적중시킨다. 이 메커니즘을 프롬프트 캐싱(Prompt Caching)이라고 부른다. 에이전트 기반 코딩 환경에서는 캐시 읽기가 전체 토큰 소비량의 96%에서 99%를 차지하며, 시스템 적중률은 일상적으로 90%에서 100% 사이를 유지한다.
입력과 출력 정가가 아무리 낮아져도, 이는 전체 데이터 통신량의 5% 미만에 불과하다. 클라우드 제공업체가 캐시 읽기 단가를 75% 낮추면, 기업 고객의 월간 청구 총액은 단숨에 70%에서 75%까지 급감한다.
그림: 80% 가격 인하 후 모델 품질과 작업당 비용 분포. 출처: OpenAI(minimaxir.com 경유)
9월에 벌어진 두 거인의 정면충돌은 바로 이 레버리지를 둘러싸고 전개되었다. 9월 1일, Anthropic은 Fable 5.1($10/$50/$0.25)을 출시하며 캐시 읽기 요금을 75% 인하했다. OpenAI는 이틀 뒤인 9월 3일 종합 벤치마크 성능이 앞서는 GPT-6 Astra($10/$50/$1)로 반격했으나, 상대적으로 높은 캐시 단가를 고수하다가 가성비 평가에서 치명타를 입었다.
9월 22일, 두 회사는 같은 날 정면 대결을 펼쳤다. OpenAI는 GPT-6 Sol($2/$10/$0.20)과 GPT-6 Luna($0.10/$0.50/$0.01)를 선보이며 입력과 출력 단가를 직전 할인 가격의 절반으로 낮췄다. Anthropic 역시 같은 날 Claude Opus 5.5($4/$20/$0.20)를 공개하고 운영 비용 절감을 공식화하여 고객의 실질 비용을 40%에서 60% 절감시켰다. 이어 10월 초, GPT-6 Sol의 성능 변동에 대한 피드백에 대응하여 OpenAI는 GPT-6.1 Sol을 출시하고 캐시 단가를 $0.10까지 압축했다. 이로써 전 라인업의 4개월 누적 할인 폭은 75%로 확정되었다.
29개 호스팅사의 동일 모델 수주전: 설정 한 줄이면 공급자 교체 완료
선두 기업들이 자발적으로 파격적인 가격 할인을 단행한 이면에는 오픈소스 생태계와 제3자 컴퓨팅 호스팅 네트워크라는 막강한 경쟁자가 버티고 있었다. 폐쇄형 기업들이 가격을 유지하려 했다면, 고객들은 즉시 저렴한 대체제로 대거 이탈했을 것이다.
오픈소스 진영은 이미 수개월 전 가격의 마지노선을 제시했다. 2026년 4월 등장한 DeepSeek V4 Flash 0420은 $0.14/$0.28/$0.0028이라는 경이적인 단가로 출시되었다. 캐시 읽기 요금이 입력 가격의 2%에 불과하여, 선두 기업들이 고수하던 5%~10% 비율을 단숨에 무너뜨렸다. 10월 17일 출시된 개선형 DeepSeek V4.1 Flash 1017은 주요 벤치마크 지표를 두 배 가까이 끌어올리면서도 $0.15/$0.60/$0.003의 초저가를 그대로 유지했다.
더 강력한 위협은 호스팅 유통망의 급속한 확장이었다. 2026년 5월 당시 DeepSeek V4 Flash 호스팅 서비스를 제공하는 독립 업체는 전 세계에 13곳에 불과했다. 그러나 10월 버전 업데이트 시점에는 동일 모델의 호스팅 업체가 29개 사로 급증했다. Cloudflare와 DeepInfra 등 제3자 인프라 플랫폼의 실제 호출 가격은 원천 개발사의 공식 정가와 10% 이내 격차로 좁혀졌다.
문샷(Moonshot AI)의 Kimi K3.1 Pro 역시 거센 외부 압박으로 작용했다. $2/$10/$0.20로 책정된 이 모델은 벤치마크 성능에서 Opus 5.5에 육박했으며, 11월 4일 가중치 공개를 앞두고 있다. 가중치가 오픈소스로 공개되는 순간, 수십 개 호스팅 업체가 즉각 참전하여 동급 성능의 추론 서비스를 최저가로 공급할 것이 명백하다.
LLM API 인터페이스는 이미 전 세계적으로 표준화되었다. 기업이 백엔드 모델 공급업체를 변경할 때 핵심 비즈니스 로직을 수정하거나 복잡한 어댑터를 개발할 필요가 없다. 엔지니어는 설정 파일에서 API 기본 주소 한 줄만 교체하면 된다. 전환 비용이 0인 환경에서, 가격을 올리려는 모든 시도는 즉각적인 고객 이탈로 이어질 뿐이다.
게이트웨이 실측 데이터의 역설: 단가는 60% 내렸는데 총지출은 증가
컴퓨팅 단가의 급격한 하락은 실제 운영 환경에서 매우 흥미로운 변화를 불러일으켰다. 단가는 기록적으로 저렴해졌지만, 기업들의 전체 인프라 비용 청구서는 오히려 더 커진 것이다.
그림: Claude Opus 5.5의 종합 성능과 호출 비용 분포. 출처: Anthropic(minimaxir.com 경유)
API 게이트웨이 제공업체 Vercel AI Gateway의 집계에 따르면, 2026년 9월 개발자가 지출한 단위 토큰당 평균 비용은 같은 해 4월 수준의 43.3%까지 급감했다. 그러나 동일 기간 기업 고객들의 총지출은 꾸준한 상승 곡선을 그렸다.
이러한 역설은 애플리케이션 사용 패턴의 근본적 전환에서 비롯되었다. 토큰 단가가 비쌌던 시절, 엔지니어들은 호출 횟수와 범위를 극도로 통제하며 프롬프트 글자 수를 줄이는 데 매달렸다. 그러나 캐시 읽기 비용이 몇 센트 수준으로 떨어지자, 개발팀은 백그라운드에서 자율 동작하는 에이전트 루프를 과감하게 가동하기 시작했다.
오늘날의 에이전트 환경에서 시스템은 스스로 수백, 수천 차례의 상호작용을 발생시킨다. 모델은 코드 리뷰, 다중 후보군 비교 테스트, 자체 오류 수정을 쉴 새 없이 반복 실행한다. 단가 하락이 사용 장벽을 허물면서 폭발적인 호출 빈도를 촉발했다. 저렴한 연산 자원이 고밀도 자동화 워크플로를 만들어냈다. 최고급 추론 연산은 이제 전기나 수도처럼 언제든 소비되는 일상 필수재로 자리 잡았다.
주도권을 쥔 구매자: 범용 필수재로 전락한 프론티어 AI
지난 20년간 인터넷 플랫폼 기업들은 익숙한 공식을 반복해 왔다. 막대한 자본력으로 적자를 감수하며 경쟁사를 무너뜨린 뒤, 독점 구도를 확립하고 가격을 올려 수익을 회수하는 전략이다. 그러나 대규모 언어 모델 추론 시장에서는 이러한 공식이 생존할 수 있는 토양 자체가 존재하지 않는다.
지능형 추론은 본질적으로 대체 가능성이 매우 높은 표준화된 연산 서비스다. 오픈소스 모델이 확고한 성능 기준선을 제공하고, 전 세계 수십 개 클라우드 사업자가 풍부한 위탁 연산 능력을 공급한다. 그 어떤 모델 개발사도 배타적인 독점 장벽을 쌓을 수 없으며, 고객이 언제든 경쟁사로 떠나는 것을 막을 수단도 없다.
업계 선두를 달리는 두 기업 역시 이러한 범용 상품화의 위기를 명확히 인식하고 있다. OpenAI와 Anthropic은 장기 엔터프라이즈 계약 확보에 열을 올리고 있으며, OpenAI Dots나 Claude Duet처럼 모델을 특화된 업무용 에이전트 제품군으로 패키징하는 데 집중하고 있다. 기업 내부 데이터 및 고유 워크플로와 깊숙이 결합함으로써 새로운 전환 장벽을 구축하려는 전략이다.
그러나 기반 모델 자체가 29개 호스팅 업체를 통해 설정 한 줄로 언제든 대체될 수 있는 한, 가격 프리미엄은 결코 되살아날 수 없다. 추론 단가는 오직 반도체 칩과 전력의 물리적 실제 비용에 수렴할 뿐이다. 4개월 만에 80% 폭락한 가격 전쟁은 LLM 폭리 시대의 종말을 선언하고 있다. 컴퓨팅 시장의 무게추는 완전히 선택권을 쥔 구매자에게로 기울었다.
참고 링크:
- minimaxir.com 기술 분석 보고서
- Hacker News 커뮤니티 기술 토론
