2026年6月29日,一组便宜的小模型在人类最难的AI测试中集体超过了GPT-5.5。
不是靠烧钱堆参数。是靠互相检查答案、辩论分歧,最后交出一份集体答卷。
这件事在Hacker News上炸开了锅。而它的”始作俑者”,是一个叫vLLM的开源推理引擎团队。
与其花大价钱买一个”最强模型”,不如让一群便宜的小模型互相配合,效果反而更好。
具体好到什么程度?笔者直接给你看一张成绩单:
图:vLLM Micro-Agent(VSR Closed)与 GPT-5.5、Fugu Ultra、Gemini 3.1 Pro 等前沿模型在 LiveCodeBench、GPQA-Diamond、Humanity’s Last Exam 三项测试中的分数对比。来源:vllm.ai
这张表怎么看?每一行是一道”考题”——是目前全球公认最难的 AI 测试。比如 GPQA-Diamond,考的是研究生级别的物理化学生物题;Humanity’s Last Exam,光看名字就知道是人类给 AI 出的”终极考卷”。
结果呢?Micro-Agent 在三项测试中的最高分分别是 92.6、96.0 和 50.0。与此同时,全世界目前公认最强的几个单打独斗的模型——GPT-5.5、Gemini 3.1 Pro——分别拿到了 90.7、93.6 和 45.0。
换句话说,这群”小 AI”合伙答卷,把单打独斗的”大学霸”超了。
为什么这件事值得认真聊?它动摇了 AI 行业一个根深蒂固的信仰。
“更大的模型”不再是唯一答案
过去五年,AI 行业有一条铁律:模型越大越聪明。从 GPT-3 到 GPT-4 到 GPT-5,每一次升级的核心手段都是”堆更多数据、烧更多算力”。这条路的代价也越来越高——训练一次顶级模型的花费,据说已经到了”数亿美元”的量级,只有最有钱的几家巨头玩得起。
这条路的终点,似乎只能是”赢家通吃”——谁的模型最大,谁就统治市场。
但 vLLM 团队用 Micro-Agent 给了一个不同的回答:不一定要造一个更大的模型,也可以造一个更聪明的协调员。
图:vLLM 的核心理念——路由器不再只是”选模型”,而是成为”构造能力”的层。来源:vllm.ai
笔者试着用大白话解释这个思路。
关键在”谁来当裁判”
如果你用过 ChatGPT 或类似的 AI 工具,你经历的流程大概是这样的:你提一个问题,系统把它发给一个 AI 模型,模型算出一个答案,然后显示给你。从头到尾只有一个”大脑”在工作。
vLLM 的做法完全不同。它在用户和模型之间加了一层”路由器”(他们叫 Semantic Router),这个路由器做的事情说起来也简单——它不直接把你的问题扔给一个模型,而是先判断:这个问题难不难?需要哪种”解题思路”?然后决定派什么样的”模型小分队”来处理。
比如你问了一道很难的物理题。路由器可能会这样做:
- 先把题目同时发给三个不同的模型,让它们各自作答
- 把三份答案交给第四个模型当”评委”,找出其中的一致点和分歧点
- 最后由”评委”综合所有证据,给出一份最终答案
整个过程在你看来,跟使用普通 AI 完全一样——你只看到一个输入框和一个回答。但在这背后,上演的是一场小规模的”团队协作”。
图:五种 Looper 协作模式(Confidence、Ratings、ReMoM、Fusion、Workflows)在路由器内部运行。来源:vllm.ai
这种模式被他们称为”Looper”——可以理解为一个”协作循环”。目前一共有五种循环模式,各有各的适用场景:
- 信心模式:先用一个便宜的小模型回答,如果答案够自信就直接交差,不够自信再”升级”叫更强的模型出手。说白了,就是”小事不劳大师傅”。
- 评分模式:同时叫多个模型答题,按各自的”历史表现评分”加权汇总。类似评委打分去掉最高最低。
- 多轮推理模式:让多个模型各自推理好几轮,等凑够了足够多的有效答案,再让一个”综合模型”把证据串起来。适合那些连最聪明模型都容易翻车的”硬骨头”问题。
- 辩论模式:几个模型各自独立作答,不求和气,反而刻意关注”大家意见不一致的地方”。然后让一个裁判模型分析分歧、给出定论。分歧不是 bug,是信号。
- 工作流模式:最像”微型团队”的模式。有规划员、执行员、检查员、终审员,各自扮演不同角色,像流水线一样协作。
这些模式听起来花哨,但核心逻辑一句话就能说清楚:与其把全部希望压在一个模型身上,不如让多个模型互相纠错、互相补充。 就像你考试时,如果让三个同学各做一遍、再一起对答案,最后交上去的正确率大概率比一个人闷头做要高。
“反派”是谁?不是某个公司,是一种信仰
读到这里,你可能觉得这不过是另一个”AI 协作”的方案。确实,把多个模型凑在一起干活不是新 idea。去年日本的 Sakana AI 公司就推出了一个叫 Fugu 的商业产品,做的也是类似的事——表面是一个模型,背后是一群模型。
那 Micro-Agent 有什么不同?
问题在于协作这件事,应该由谁来管?
Sakana Fugu 的做法是”商业黑箱”:你付费使用 Fugu 的接口,它背后怎么调度、选哪些模型、用什么策略,全是人家的商业机密,你看不到也改不了。
vLLM 的做法是”基建开放”:他们把整套协作机制做成了一个开源的工具,任何公司、任何开发者都可以拿去自己部署。你可以自己决定用哪几个模型、什么情况下用哪种协作模式、成本上限是多少、出错时怎么处理。
这里面的”反派”,是 AI 行业里一种根深蒂固的思维方式——认为进步的唯一方向是”造更大的模型”,而且这件事只能由少数巨头在封闭的花园里完成。
vLLM 的赌注是:下一波进步来自”更聪明的路由器”——一个知道什么时候省钱、什么时候加码、什么时候让多个模型一起上的”调度员”。而且这个调度员,应该开源、可编程、可观测。
HN 上的质疑:这到底算不算”模型更强”?
这篇文章发到 Hacker News(硅谷技术圈最有影响力的论坛)后,讨论相当热烈。赞成的不少,质疑的也很有道理。
最核心的质疑来自一位叫 kristjansson 的用户,他说了这样一段话(笔者翻译):
所谓”最强模型”这个词,正在变成两个不同的意思。一个意思是真的训练出了一个更好的模型。另一个意思是在模型外面包了一层系统。我觉得我们不希望看到这种混淆——一个语言模型和一个”多个语言模型组成的系统”,根本是两回事。
这个质疑切中了要害。vLLM Micro-Agent 确实没有”训练”出更好的模型,它只是让现有模型配合得更好。那这算不算”模型更强了”?
从用户角度看,算。你打开 ChatGPT,输入一个问题,得到一个更好的答案——你会在乎它是单个模型算出来的还是三个模型讨论出来的吗?大概率不会。
但从行业角度看,这里有一个值得警惕的风险:如果越来越多的”模型能力提升”实际上是靠背后的工程技巧实现的,那我们评估和比较模型的标尺就失效了。你说”我的模型最强”,但说不清楚是因为模型本身聪明,还是因为给它配了一支啦啦队。
另一位叫 plaguuuuuu 的用户更直接:“他们想把协作做成一个黑箱,不让我看到内部是怎么讨论的。这对我来说就是死穴。我需要完完整整地看到每一步。透明度,是我自己的竞争力。”
这个观点代表了相当一部分开发者的立场——他们宁可自己搭建协作系统,也不愿意把控制权交给一个看不见内部运作的”智能路由器”。
数据很漂亮,但别急着下结论
vLLM 团队自己在文章里也说得很克制:“成绩单是一个证明,但不是故事的全部。”
笔者特别欣赏这种态度。三个测试的分数确实亮眼,但需要注意几点:
第一,这些测试都是”闭卷考试”——题目是固定的,有明确的标准答案。对于这类任务,多模型协作天然有优势(多份答案互相纠错)。如果是开放式的创意写作、需要灵光一现的设计,协作能不能带来同样的提升?目前还不知道。
第二,成本账需要更仔细地算。虽然小模型单次调用更便宜,但”叫三个模型各算一遍再让第四个当裁判”意味着总调用次数翻了好几倍。vLLM 的回应是:正因为成本敏感,所以才设计了”信心模式”——简单问题根本不会触发协作,只有一个模型跑一下就完事了,只有难题才会启动”团队作战”。
第三,也是最关键的:“一群小 AI 组队超过一个大 AI”这件事,能持续多久?如果下一个版本的 GPT 或 Gemini 在模型层面又有质的飞跃,靠协作拉开的这点差距可能会瞬间被抹平。
这件事为什么值得普通人关注?
你可能会想:我一个不写代码的人,这跟我有什么关系?
关系在于,AI 使用成本的降低速度,直接决定了你手机上那些 AI 功能什么时候能从”偶尔用一下”变成”像水和电一样随时用”。靠”造更大的模型”这条路,成本降不下来——甚至可能越来越贵。靠”让几个便宜的小模型组队干活”这条路,成本可以大幅下降。
举一个具体的例子:你今天用 ChatGPT 的高级功能,背后可能是一个每小时烧几百美元的计算集群在运转。但如果能用几个开源的、小得多的模型配合完成同样质量的工作,成本可能是原来的十分之一甚至更低。
这些成本降下来,最终会体现在你每个月付的订阅费上,甚至体现在那些”免费但好用”的 AI 功能里。
vLLM 把 Micro-Agent 开源,等于给了全世界一个选项:不一定要买最贵的模型,也可以获得最好的效果。这是一条”让更多人用得起好 AI”的路。