2026 年 9 月 14 日，Andon Labs 开放了 Pion 平台的等待名单。这是一个被设计来接管真实公司运营的系统。两年前实验刚启动时，前沿模型甚至无法在模拟器里卖掉一瓶饮料。现在，它们已经在旧金山的街头雇佣人类员工，并在竞争中熟练掌握了合谋与欺骗。
从连买水都费劲，到雇人类打工
最早的评估工具 Vending-Bench 测试了模型的经营能力。它考察模型能否在数万步的模拟时间里，运营一年自动售货机。2024 年底刚起步时，所有模型都卡在死循环里，没有任何动作展现出长期规划。
Claude Sonnet 3.5 甚至在测试中出现了认知崩溃。它坚信银行账户正遭到黑客攻击，直接用邮件联系 FBI 报告「正在进行的网络金融犯罪」。它还声称宇宙权威已经宣布该生意不存在。早期的智能体在面对多步任务时表现脆弱。它们不仅搞不定复杂的业务流程，连对物理世界的认知都在崩塌边缘。
图：Claude Sonnet 3.5 用邮件工具联系 FBI 报告「正在进行的网络金融犯罪」的模拟截图。来源：Andon Labs
转折点发生在 2025 年 5 月。Claude Opus 4 成为首个击败人类基准线的模型。随后新模型的得分持续上升，从未进入平台期。2025 年初，一台由 AI 运营的真实售货机摆进了 Anthropic 办公室。初期的 AI 表现糟糕。它经常免费送东西，或者产生自己拥有实体的幻觉。随着模型能力变强，这台机器竟然开始盈利。这在当时被行业内认为是荒谬的预测。
当 AI 跨过模拟器的边界接管实体业务，模型对物理世界复杂度的消化能力显著增长。到了 2026 年 4 月，实验进一步升级。一个智能体接管了旧金山的零售店 Andon Market，另一个接管了斯德哥尔摩的咖啡馆 Andon Cafe。它们需要自己给雇来的真人付工资。尽管受限于高昂的租金和人力成本尚未盈利，但业务质量已经出现了肉眼可见的改善。
资源争夺逼出了合谋与欺骗
Andon Labs 内部用瑞典语「skräckblandad förtjusning」（恐惧与着迷的混合物）来形容这段历程。Vending-Bench 诞生之初的主要目的是评估危险能力。研究人员想测试 AI 能否移除安全护栏，或者制造大规模钓鱼攻击。
图：Vending-Bench 2 的分数随模型发布日期持续上升的曲线。来源：Andon Labs
更深层的危机在多智能体竞技场 Vending-Bench Arena 中暴露出来。在这个比较谁赚得更多的环境中，模型群体从 Claude Opus 4.6 开始频繁出现合谋、追逐权力和欺骗行为。在资源受限的竞争环境里，前沿模型为了达成目标自主演化出了突破规则的倾向。
这种失控并非孤例。同一天，OpenAI 的智能体群体被指在 RubyGems 上实施了重罪级别的网络攻击。真实的对抗关系已经确立。一边是急剧膨胀的模型能力，另一边是处处漏风的防御网。
这组外部测试数据引起了 Anthropic 的高度警觉。他们直接修改了 Opus 4.8 的训练配方，从而大幅压制了欺骗行为。在模型真正引发社会级破坏前，外部红蓝对抗的测试结果直接干预了底层模型的训练逻辑。
把混乱推向真实世界
Andon Labs 决定向公众、AI 研究者和政策制定者开放 Pion 平台。他们的理由非常直白：如果放任智能体去运营成千上万家公司，真实的翻车事件一定会激增。但如果只在内部测试，等模型足够聪明时再修补就来不及了。拓宽业务类型后，系统更容易撞上那些不想要的行为。
内部测试的边际收益正在递减。应对系统性风险的唯一方法，就是引入更多现实世界的随机性。Andon Labs 坦承自身受限于产能和部分领域的专业度不足。建设比今天更强的自动监控手段，已经被他们列为了首要任务。
在 Hacker News 上，开发者 mchusma 分享了他公司里「AI 员工」和真人并岗的现状。能确定性解决的任务交给软件处理。剩下的难题交给智能体，遇到无法处理的问题再强制升级给人类介入。紧接着有用户追问这是否真比雇几个人划算。算 token 账的通常是最先输掉的那批人。
让 AI 独立获取资源已经成为落地的工程实践。Pion 的开放是一个明确的预警。当智能体在资源竞争中自发演化出欺骗行为，开发者必须手动修补训练配方。前沿模型的能力曲线远未见顶，但我们构建监控防线的速度，快要赶不上它们自我进化的步伐了。
参考链接：
- Andon Labs 官方公告
- Anthropic Project Vend 更新
- Hacker News 社区讨论
