「核心哲学是扩大规模,而且积极地不搞研究。」2026 年 11 月 6 日,资深学者 John Langford 写下这句判断。他正式宣布从微软离职。由他联合创建的 AI Frontiers 研究团队随之宣告终结。
AI Frontiers 约有 50 名研究员,原本隶属于微软研究院。2026 年 9 月初,该组被划入由前 Inflection 团队主导的 Microsoft AI。管理层路线分歧迅速激化,团队随之实质性瓦解。
在这场算力投资竞赛中,大厂基础研究正在经受严苛的可交付性审计。 组织资源全面向参数规模倾斜。探索底层机理的团队不再被视作战略储备。无法支撑当期交付指标的项目,在考核中迅速沦为昂贵的成本项。
50 人前沿团队并入产品线:Langford 离职出走
AI Frontiers 的建立源于应对大模型浪潮的组织焦虑。2023 年 ChatGPT 发布后,微软研究院传统的学者模式暴露出短板。个人研究员难以构建复杂的基准环境,开发节奏也无法跟上产业前沿。
为了打破分散研发的局限,Langford 与同行在 MSR 内部组建了这支约 50 人的团队。他们采取了介于自下而上探索与自上而下工程之间的协同机制。团队推出了多智能体框架 AutoGen,随后又发布了计算机操作智能体 Fara。
在纽约分支,该组专注于模型底层机理的研究。他们设计了具备外推能力的 Next Latent 目标,提出了改进版优化器 Dion3。团队还搭建了通用的模型预训练代码库,向微软研究院全员开放。
平稳运转的状态在 2026 年 9 月被打破。微软高层将 AI Frontiers 划入 Microsoft AI。合并旨在整合算力与工程资源。然而在具体目标上,基础研究与产品交付产生了剧烈脱节。
架构改进节省 33% 算力,换不来千卡训练资源
AI Frontiers 在被清退前夕,刚刚交出了具备显著能效优势的架构方案。2026 年 8 月,Langford 团队公开了 Full-bandwidth Transformer(arXiv:2608.08888)。该工作直指传统 Transformer 在自回归生成过程中的隐状态浪费。
图:Full-bandwidth Transformer 架构设计,在潜空间引入门控线性反馈回路。来源:arXiv:2608.08888
该架构保持了注意力机制、KV 缓存与自回归训练目标。研究团队仅利用门控线性单元,把上一层隐状态融入当前输入的词嵌入。在 1B 参数模型与 400B Token 训练中,该结构追平了标准 Transformer 使用 1.5 倍数据的效果。这相当于同等的模型能力少烧三分之一的预训练算力。Langford 在文末把账算得很直白:在一个投资规模逼近万亿美元的行业里,把训练和推理成本砍掉一半值多少钱,可以直接算出来。
在理论收益背后,该架构面临着沉重的工程迁移阻力。主流大模型训练基建早已围绕标准 Transformer 完成了硬件级别的优化。分布式切分、通信流水线与专用张量核心均已深度固化。引入递归机制打破了既有的流水线并行模式。工程团队必须重写通信算子,才能避免计算单元发生空转。
类似的技术冷遇也发生在优化器领域。团队参与的 Dion3(arXiv:2608.11612)是 Muon 的一版修订:用 Gram Newton-Schulz 压缩正交化的浮点开销,靠 CuteDSL 内核吃对称性,再加一组只正交化动量矩阵部分行的更新规则。最终优化器单步耗时最多缩短 6 倍,精度不低于 Muon,还能当作 Muon 的直接替换件。这样的成果足以进生产管线,但要让训练组把整个优化器换掉,代价是重跑全部超参搜索与稳定性验证。
图:Dion3 的单步更新流程,在 Muon 基础上削减正交化开销。来源:arXiv:2608.11612
前 Inflection 团队执掌大盘:模型交付压倒机理解释
2024 年 Mustafa Suleyman 率领 Inflection 核心团队加入微软,全面接管 Microsoft AI。这支团队带有鲜明的硅谷初创工程文化,将所有资源倾注于模型规模的扩张。在他们的工作流中,数据的抓取、清洗与合成配比占据了绝大部分精力。
这种路线分歧折射出两套思维的碰撞。工程团队更看重确定性。Scaling Law 提供了可预测的外推曲线,能给出明确的交付排期。面对商业化考核的压力,产品线容不下架构试错带来的进度延宕。
研究派则坚持探索底层原理与新型学习范式。Langford 援引字节跳动的 Recycler 实验指出,潜空间复用可以压缩等效模型规模。全球算力开支已逼近万亿美元。哪怕效率提升两成,也能节省数百亿美元的开销。但此类探索需要较长试错周期,无法融入按月推进的交付节奏。
双方的隔阂最终演变为组织排斥。Langford 在文中直言,产品线领导层对基础研究缺乏兴趣,甚至展现出明显的拒斥态度。在只看规模的考核下,不能直接产出参数的工作被迅速边缘化。当组织以短期交付为唯一度量衡,前沿研究人员便失去了实验算力与产品通路。
短周期审计吞噬探索容错,大厂研发告别宽松时代
Langford 拒绝留在微软,暴露出更深层的制度困境。他直言研究成果在内部失去了落地通道,继续投入便沦为空转。此外,研究机构的底层契约也已动摇。过去「做好研究就会获得回报」的默契,被单向的组织重组打破。
随着核心成员相继离去,该团队宣布停止招募实习生。这一决定直接斩断了前沿实验室自我造血的人才链路。微软研究院曾是顶尖学者的集聚地。如今宽容试错的科研机制,正在被工业流水线逐步取代。
清退前沿探索团队是资本开支重压下的必然收缩。在万卡集群日夜运转的重资产模式下,算力折旧逼迫企业交出即时产出。基础探索从构筑优势的战略储备,退化为拖累当期财报的成本负担。
用短期工程交付审计基础研究,能换来几个季度的平稳爬坡,却也会扼杀打破瓶颈的全新可能。 一旦大模型面临数据与电力瓶颈,当期的功利取舍就会显现代价。失去架构探索空间的工业界,很难再孵化出下一个 Transformer。
参考链接:
- John Langford: The End of AI Frontiers
- arXiv:2608.08888 - Full-bandwidth Transformers
- arXiv:2608.11612 - Dion3: Full-Stack Orthogonal Updates