같은 AI 모델인데 청구액은 29배 차이: AI 코딩 도구의 토큰 소비 격차

같은 AI 모델인데 청구액은 29배 차이: AI 코딩 도구의 토큰 소비 격차

ai코딩비용cursor

데이터 소스:HN + web research · HN

8월 1일, 인기 AI 코딩 도구가 사용자 몰래 설정을 변경해 사용자가 자신이 지출한 금액을 확인할 수 없게 되었다.

이 도구는 Cursor로, 최근 2년 동안 가장 주목받은 ‘AI 코딩 보조 도구’ 중 하나다. 에디터에서 일상 언어로 요구사항을 설명하면 코드를 수정해 준다. 사용자는 월 20달러의 구독료를 내며, 기본 제공량이 포함되어 있고 초과분은 사용량에 따라 차감된다. 이전의 사용량 페이지는 당월 소비한 ‘글자 수(토큰 수)‘와 ‘환산 금액’을 동시에 표시했다. 그러나 8월 1일, 한 사용자가 금액 표시란이 사라지고 숫자만 남은 것을 발견했으며, CSV로 내보낸 청구서에서도 금액 항목이 사라졌다.

“매일 이 페이지로 지출을 확인해 왔는데, 오늘 갑자기 금액이 토큰 수로 바뀌었습니다.” 게시자가 Cursor 공식 포럼에 올린 글이다. 이 글은 개발자 커뮤니티인 Hacker News로 빠르게 공유되어 하루 만에 291개의 추천과 125개의 댓글을 받았다. 몇백 개의 추천이 이 커뮤니티에서 폭발적인 수준은 아니지만, 많은 이들의 일상적인 고민을 정확히 짚어냈다. 자신의 AI 청구서가 어떻게 계산되는지 아무도 명확히 설명하지 못한다는 점이다. 자신을 Cursor 직원이라고 밝힌 계정이 답글을 통해 계정 전체 지출 페이지에서는 여전히 결제 내역을 확인할 수 있으며, CSV 내보내기의 금액 누락은 “구버전 기능을 정리하는 과정에서 실수로 오류가 발생한 것이며 이미 수정되었다”고 설명했다. 그리고 금액 그래프에 대해서는 “일부 사용자가 요금제 내 사용량의 달러 가치를 실제 지출로 오인하는 경우가 있어 제거했다”고 밝혔다.

Cursor 지출 페이지 캡처 그림: 토론에서 사용자가 올린 지출 페이지 화면——사용량 숫자만 남아있고 대응하는 금액은 보이지 않는다. 출처: pasteboard.co

이 해명으로 의구심이 완전히 해소되지는 않았다. 한 사용자는 컨텍스트 사용량 옆의 원형 비용 표시기마저 함께 제거되었다고 지적했다. “이제 실수로 비싼 모델을 켜놓아도 기본 제공량이 다 소진될 때까지 알 수 없게 되었습니다.” 이 두 가지 조치는 동일한 방향을 가리킨다. 사용자는 여전히 ‘사용량’을 볼 수 있지만, ‘사용량’을 ‘금액’으로 환산하는 것은 매우 어려워졌다.

바로 같은 날, 댓글 창에 더욱 눈에 띄는 실측 데이터가 등장했다. tosh라는 개발자가 동일한 모델, 동일한 가상 머신 환경에서 동일한 10개 작업(파일 검증값 계산, 스프레드시트 병합, 빌드 파이프라인 수정)을 6개의 서로 다른 AI 코딩 도구로 각각 실행했다. 결과는 가장 효율적인 도구가 17.3만 토큰만 소비한 반면, 가장 소모가 심한 도구는 507만 토큰을 소비하여 무려 29배의 차이를 보였다. 모든 도구가 작업을 정상적으로 완료하여 결과물의 품질에는 차이가 없었고, 오직 비용만 달랐다.

토큰 소비량 실측 비교표 그림: 동일 모델과 동일 작업에 대한 6개 도구의 사용량 실측 비교——최소 17.3만, 최대 507만 토큰. 출처: news.ycombinator.com

이 차이를 이해하기 위해 두 가지 개념을 설명한다. 토큰은 AI 청구의 최소 단위로, 대략 ‘글자 수’로 이해할 수 있다. AI는 응답을 생성할 때마다 질문, 도구 설명서, 이전 대화 기록 전체를 다시 읽어야 하며, 읽어 들인 글자 수만큼 비용이 청구된다. 그리고 여기서 ‘도구’란 AI 모델을 둘러싼 전체 프레임워크—시스템 프롬프트, 도구 목록, 메모리 파일, 프로젝트 설명, 대화에 삽입되는 중간 생성물 전체를 의미한다.

이 29배의 격차는 모델 자체가 비싼 것이 아니라, 도구가 모델을 활용하는 방식이 비싸다는 것을 증명한다. 데이터를 자세히 살펴보면 6개 도구가 ‘생성해 낸’ 출력 글자 수는 3만에서 5만 토큰으로 비슷했으나, 격차의 대부분은 ‘입력받은’ 글자 수에서 발생했다. 가장 알뜰한 도구는 시스템 프롬프트조차 없이 모델에 터미널만 제공한 반면, 가장 소모가 심한 도구는 ‘메모리 시스템’ 하나만으로 1만 자를 넘겨 매 대화마다 이를 그대로 전달했다. 한 댓글 작성자는 이러한 초기 프롬프트만으로 단일 작업 비용이 두 배로 뛸 수 있다고 추정했다.

프롬프트가 길어지면 비용만 늘어나는 것이 아니라 성능도 저하된다. 대형 언어 모델의 작업 공간인 컨텍스트 윈도우에는 한계가 있으며, 현재 주요 모델은 수십만에서 100만 토큰 수준이다. 용량이 가득 차면 도구는 이전 대화를 요약 압축(세부 정보가 손실되어 모델이 혼란을 겪을 수 있음)하거나 컨텍스트를 초기화해야 한다. 더욱 흥미로운 점은, 한 댓글 작성자가 “친절해 보이는 보조 자료가 때로는 모델의 사고를 이탈시켜 불필요한 추론을 거치게 만들고 처리 속도를 늦춘다”고 지적한 것이다.

물론 29배라는 수치는 극단적인 테스트 조건에서의 결과이며 모든 사용자의 일상적인 청구서에 해당하지는 않는다. 대형 도구가 입력하는 자료의 대부분은 프롬프트 캐시에 적중하여 캐시 적용 시 비용이 최대 90% 저렴해진다는 의견도 있다. 반면 최소화된 도구는 캐시 활성화 기준(1,024 토큰 미만)에 도달하기 전에 작업을 끝내 할인 혜택을 받지 못할 수 있다. 실측 작성자 본인도 자신의 경량 도구가 복잡한 작업 처리 능력이 부족하다고 인정했다. 이러한 지적들은 모두 타당하지만, “동일한 작업의 토큰 소비량은 사용자의 실제 필요가 아니라 도구 개발사의 설계 방식에 따라 결정된다”는 구조적 사실은 변하지 않는다.

코딩을 하지 않는 일반 사용자에게도 이 사건은 중요한 의미를 갖는다. AI 시대에는 요금 측정 단위가 ‘눈에 보이는 금액’에서 ‘눈에 보이지 않는 토큰 수’로 변화하고 있다. 구독 요금제에 포함된 용량은 본질적으로 토큰 풀이며, 초과 시 사용량에 따라 비용이 차감된다. 도구 개발사가 화면에서 ‘금액’을 없애고 ‘토큰 수’만 남길 때, 사용자는 다른 도구와의 가격 비교 능력을 잃게 된다. 동일한 작업이라도 도구에 따라 수만 토큰이 될 수도 있고 수백만 토큰이 될 수도 있지만, 자신이 어디에 해당하는지 판단할 방법이 없다. 한 사용자의 계산에 따르면, API 원가 기준으로 월 100달러 구독 요금제에서 소진된 토큰의 실제 가치는 약 5,000달러에 달했다. 구독 가격이 원가와 분리되어 있는 한, 도구 개발사가 토큰 낭비를 줄여야 할 유인은 적을 수밖에 없다.

Cursor 측은 CSV 내보내기 문제는 수정했다고 밝혔으나, 금액 그래프는 다시 돌아오지 않을 것이다. 논란은 계속되고 있으며, 일부 개발자들은 직접 경량 도구를 만들기 시작했다. 관망자들에게 이번 사건이 남긴 시사점은 명확하다. 청구서의 내역을 확인하기 어려워질 때, 추가로 지출되는 비용은 바로 그 ‘불투명함’ 속에 숨어있다는 사실이다.

참고 링크:

  • Cursor 공식 포럼: Usage page to token amount
  • HN 토론 (item?id=49135257)
  • 실측자 tosh의 X 게시글 (실측 데이터)