Tokenmaxxing 已死——AI 从堆 token 到精 token 的效率转向

Tokenmaxxing 已死——AI 从堆 token 到精 token 的效率转向

AILLMefficiencyreasoning

数据源:12 Grams of Carbon + HN discussion + Inside AI + web research

如果你在 2026 年上半年走进一家大科技公司的内部 Slack 频道,大概率会看到某位高管在喊:“上个月哪个组的 token 消耗最高?发个排行榜出来。“这就是 tokenmaxxing 的现场:把 AI token 的消耗量当成一种生产力指标,谁烧得多谁赢。

结果可想而知。Meta 内部有人让两个 AI agent 互相聊天聊一整天,只为把个人 token 数据刷上去。Amazon 搞了 token 消耗排行榜,员工们把用 AI 当成打卡任务,AI 写的代码 AI 自己审查,审查完了再让另一个 AI 重写一遍。Token 自来水龙头拧到最大,但水管尽头并没有对应的产出。

这种荒诞剧持续了好几个月。现在,风向变了。

堆 token 为什么曾经”合理”

先说一个反直觉的判断:那些搞 tokenmaxxing 的高管,未必是真的蠢。

12 Grams of Carbon 的作者 theahura 在 6 月 28 日的文章里给出了一个罕见的辩护视角——几个月前,大量资深工程师对 AI 工具有极强的抵触情绪。你给他们买了 Cursor 授权,他们不用。你给他们示范 Claude Code 怎么写代码,他们说”我不信任这玩意”。在大型组织里,说服一群有话语权的老人接受新工具,比说服 CEO 批预算难得多。

这时候,把 token 消耗写进绩效指标,是一个笨但有效的方法。它用最粗暴的方式传达了最明确的信号:你必须开始用 AI。你不需要用得聪明,你只需要开始用。

这个阶段,token 堆得多不多不重要。重要的是让人把工具打开。

政策起到了预期效果。几个月后的今天,几乎每个开发者至少会在编辑器里挂着 Cursor,至少尝试过让 Claude Code 帮忙重构代码。抗拒被打破了。

但打破抗拒的代价是账单。

补贴退潮,账单上岸

Tokenmaxxing 能玩得转,有一个前提:token 本身不贵。或者说,token 的真实价格被 API 提供商有意压低了。

OpenAI 和 Anthropic 都在准备 IPO。在上市之前,他们需要证明一件事:AI 不是实验室玩具,它能渗透到企业工作流的每一个角落。为此,两家公司大量补贴 API 价格和订阅套餐的 token 额度——你先用起来,用上了再说。

2026 年年中,补贴开始退潮。OpenAI 发布了 GPT-5.6 系列,但首轮只面向”受信任的合作伙伴”开放,普通用户排队。Anthropic 的 Opus 4.X 系列定价惊人:每百万输入 token 收 5 美元,每百万输出 token 收 25 美元。作为对比,中国开源模型 GLM 5.2 的输入价格约为 1.4 美元,输出约为 4 美元——差距接近 6 倍。

与此同时,企业的 token 账单不再是抽象数字。据 Inside AI 报道,Uber 在 2026 年第二季度被自己的 AI 账单吓到,紧急刹车。一位叫 Stephanie Kirmer 的数据科学家在专栏里写得很直白:“你对模型回答的 token 数量只有最微弱的控制力。输出 token 的数量,本身就是那个不确定性的未知数。”

输出 token 的成本大约是输入 token 的 5 倍,而 agentic 工具——那些会自动触发多轮调用、自己发提示词的 AI 系统——把这种不确定性进一步放大。Gartner 3 月份的分析指出,agentic AI 每个任务消耗的 token 是标准聊天机器人的 5 到 30 倍。

财务管理层的反应一致且迅速:砍预算。有上限的 token 额度、固定每人的月支出上限、按项目审批 AI 使用。HN 上的一位评论者说,他们公司的 AI 预算从敞口变成了每人固定额度,“员工被困在 cost-maxing(成本最大化恐慌)里,根本不敢想象你为什么会用满额度”。

转折点:从”累加错误”到”累加正确”

如果故事到这里结束,那就是一个经典的”泡沫破裂”叙事:公司跟风推 AI、浪费了钱、幡然醒悟、砍预算、一切回归理性。

但 2026 年 6 月的技术现实让事情变得更有趣。

过去很长一段时间,让 AI 长时间自主运行是一个糟糕的主意。模型会产生幻觉,小错误会在迭代中自我放大,最终不可逆地嵌入项目中。这个现象在业界被称为”compounding error”——累加错误。在这种条件下,花更多 token 让 AI 多跑几轮,等于花更多钱制造更多 bug。理性的选择是:别花太多 token,保持人在回路中。

现在,情况变了。

theahura 在文章中描述了新的技术现实:“compounding correctness”——累加正确。在当前的模型能力水平上,多花 token 跑更多轮迭代,结果确实会更好。你不需要精心设计 prompt,不需要深厚的模型使用经验,把任务扔进 agent loop 里,让它在每一轮迭代中自己改进,出来的东西大概率比上一轮好。

这不是理论推演。Anthropic 最近被披露的安全测试模型 Mythos 就是一个极端案例。英国 AI 安全研究所(AISI)给 Mythos 每次尝试分配了 1 亿 token 的预算——相当于 12,500 美元一次。跑完十轮花了 125,000 美元。AISI 的观察是:“在所有被测试的 token 预算范围内,模型持续取得进展,没有出现收益递减的迹象。”

翻译成大白话:只要你一直往里砸 token,它就一直变得更厉害。这条曲线还没有弯下来。

这和加密货币的工作量证明机制有某种精神上的相似——安全性不再来自你有多聪明,而来自你愿意花多少钱跑多少轮计算。

两种 tokenmaxxing,两种结局

把镜头拉回来,我们能看到市场分化成了两条路。

第一条路:把 token 花在让开发者更高效上。开发者用 Claude Code 写代码、跑 agent loop、做大规模重构,花掉的 token 换来的是人的产出提升。theahura 的团队自己就跑着一个”软件工厂”——代码生成、代码审查、修 bug、写测试,全由 agent 在无人监督的情况下自动完成。他们每月花在 token 上的钱大约是 600 美元。这个数字比 StrongDM 喊出的”每个工程师每天烧 1000 美元 token”的口号低了几十倍,但逻辑是同一条:花 token 换生产力,只要投入产出比为正,就继续花。

第二条路:把 token 花在脆弱的定制 agent 流水线上。公司请咨询顾问搭建了一个”数据标注专用 agent”,跑起来不太准,于是又搭一个”质检 agent”来检查第一个 agent 的输出。质检 agent 也有假阳性,所以再搭第三个。三个 agent、三层 token 消耗、产出还没一个确定性的脚本稳定。theahura 管这叫”AI slop cannon”——AI 泥浆炮,发射的是 token,落在地上的是烂泥。

这两条路的关键区别只有一个:token 花在了什么地方。花在增强人的判断力和产出上,是加速器。花在替代确定性的工程方案上,是无底洞。

开源模型的套利空间

如果 compounding correctness 意味着多跑 token = 更好的结果,而前沿闭源模型的价格是开源模型的 5 到 7 倍,那么算术就很简单了。

假设 Claude Opus 跑一轮给你 1.1 倍的提升,GLM 5.2 跑一轮给你 1.05 倍的提升——但 GLM 5.2 的成本只有 Claude 的六分之一。你可以用同样的预算把 GLM 5.2 跑六轮,累计提升是 1.05 的六次方,大概 1.34 倍——超过了单轮 Claude 的 1.1 倍。

这当然是一个过度简化的模型。但它指出了一个真实的市场力量:当”多跑 token 就能变好”成为共识,便宜的开源模型就有了结构性的优势。theahura 的判断是:“tokenmaxxing 顶级实验室的产品在任何 CFO 审查面前都站不住脚。随着开源模型变强,直接拿它们跑 loop 会越来越普遍。“

接下来会发生什么

tokenmaxxing 作为一个管理口号已经死了。用 token 消耗量衡量员工绩效这种事,在 2026 年下半年只会变成 HR 培训课上警示案例。

但 tokenmaxxing 作为一种技术策略还活着。模型能力的进化——compounding correctness、agent loop 的成熟、开源模型的性价比——合力把”多花 token”从荒唐变成了理性。

一个可能的终局是”黑暗工厂”:代码仓库全天候由 agent 维护、审查、测试、发布,人类只负责把需求规格写进去,等待成品出来。我们离这个画面还有距离,theahura 的团队每月花 600 美元 token 跑出来的也不是完全无人的工厂。但方向是明确无误的。

另一个更近的现实是:企业会把 token 预算从”撒胡椒面式的人人都用”转向”少数人深度使用”。与其给 5000 个员工每人 20 美元的 AI 额度让大家在聊天框里问天气,不如给 50 个工程师足够的 token 预算让他们跑 agent loop 做真正有价值的工作。这不是预算缩减,是预算集中。

AI 的 token 经济正在经历它的第一个完整周期:从补贴驱动的狂热扩张,到账单驱动的痛苦收缩,再到效率驱动的理性重构。经历过这个周期的团队,会带着伤痕和判断力进入下一阶段——知道什么时候该堆 token,什么时候该关掉 agent,以及怎么区分这两种情况。

参考链接:

本文的素材来自公开信息和社区讨论。如果你对这个话题有更深入的一手经验,欢迎指出文中的不足。