Cerebras CS-4发布:30倍推理速度改写算力选型规则

Cerebras CS-4发布:30倍推理速度改写算力选型规则

CerebrasAI推理芯片架构硬件基础设施

数据源:HN + web research

三晶圆并联架构:突破片上面积与内存墙

2026年8月18日,刚完成纳斯达克上市的 Cerebras Systems 正式推出第四代晶圆级 AI 推理系统 CS-4。这台由三颗全新 Wafer Scale Engine 3 Turbo(WSE-3 Turbo)晶圆组成的算力单元,在第三方机构 Artificial Analysis 的实测数据中展示出高达生产级 GPU 系统 30 倍的推理吞吐量。面对此前由 Blackwell 架构与 H200 垄断的高端推理市场,全晶圆架构用数量级的单 Token 生成延迟,展示了专用算力在特定工作负载下的极高效率。

CS-4 在物理层面将三块巨型晶圆无缝集成于同一系统内,延续了上一代 CS-3 摆脱板卡级物理总线的路线。单颗晶圆集成约 90 万个 SRAM 计算核心与 44GB 片上高速存储,运行期间的模型权重与激活张量无需频繁通过 PCIe 或 NVLink 总线在板卡间迁移。这种将全模型存放在晶圆内部的高密度方案,把推理计算从传统显存带宽限制中解放出来,让万亿参数级模型的实时响应成为可能。

CS-4系统结构 图:CS-4 系统渲染图。来源:cerebras.ai 官方博客

在整体效能方面,CS-4 实现了每瓦吞吐量较 CS-3 提升 10 倍、峰值性能翻倍的突破。这说明晶圆级系统在扩充芯片物理面积的同时,能借助片内路由优化与供电结构改进,有效抑制超高集成度带来的边际功耗递增。当推理需求从百亿参数扩展至十万亿参数时,片上 SRAM 的高带宽特性展现出远超传统 HBM 堆栈的能效优势。

微秒级晶圆互连:打破分布式推理的延迟枷锁

多晶圆协同的核心瓶颈在于跨芯片通信的延迟。CS-4 引入全新的 Wafer-to-Wafer 互连技术,把晶圆之间的直接通信延迟压低至 2 微秒。相比以太网与 InfiniBand 网络的毫秒级或亚毫秒级开销,2 微秒的物理延迟让三块晶圆的分布式流水线获得了接近单颗超大芯片的同步效率。

30倍推理速度对比图 图:30 倍推理速度对比图。来源:cerebras.ai 官方博客

得效于这一互连性能,CS-4 在面对参数量超过 10 万亿的超庞大模型时,依然能够稳定输出超过 1,000 tokens/s 的推理生成速度。这说明在极其消耗通信带宽的流水线并行拓扑中,超低延迟物理互连成功清除了超大模型实时吐字的最大障碍。在 Hacker News 社区热度达 296 分与 203 条讨论的关注下,这一数据成为了业界评估长文本生成效率的新锚点。

与传统 GPU 集群依赖高昂网络交换机搭建树状拓扑不同,CS-4 在系统内部完成了拓扑内聚。硬件层面的近距连通消除了绝大部分网络报文封装与排队丢包开销,使得数据在流水线各阶段的流转保持恒定的高吞吐。这种确定性的延迟特征,为超大规模语言模型的并行计算提供了稳健的技术支撑。

硬件级解耦推理:Prefill 与 Decode 的异构分工

过去 AI 推理基础设施普遍将 Prefill(首 Token 上下文编码)与 Decode(逐 Token 自回归生成)绑定在同一批 GPU 节点上。然而这两个阶段对硬件资源的需求截然不同:Prefill 属于算力密集型(Compute-bound)计算,高度依赖通用矩阵乘法能力;而 Decode 属于带宽密集型(Memory-bound)计算,极度依赖内存读取吞吐。CS-4 率先在原生架构层面实现了 Disaggregated Inference(解耦推理)的硬件级落地。

在 CS-4 的部署方案中,系统支持将 Prefill 阶段交给通用 GPU 或专用算力集群(如 AMD Helios 或 AWS Trainium),自身则专注于极速 Decode 生成。这种算力分工大幅度提高了异构硬件的整体利用率,避免了昂贵的生成芯片在等待上下文编码时出现算力闲置。这种组合打破了单一类型硬件必须兼顾全流程推理的思维定式,将硬件选型粒度精准定位到推理算法的各个子阶段。

从经济性视角分析,Prefill/Decode 解耦成功缓解了数据中心在面对长上下文请求时的成本压力。通过将大量的并行计算留在高密度的算力节点,同时把极高频的读写操作交给 CS-4 晶圆处理,数据中心得以用更低的集群规模支撑同等并发量的实时交互。

Nexus 模块化机架:高密度供电与可插拔计算背包

为了支撑三块巨型晶圆的高功耗与高数据吞吐,Cerebras 为 CS-4 打造了全新的 Nexus Platform Architecture(Nexus 平台架构)。Nexus 架构采用了高度模块化的 Wafer I/O 子系统与高密度机架供电单元,彻底重组了传统服务器的数据中心布线逻辑。高密度的垂直供电方案大幅缩短了电源线路传输距离,降低了大电流运行下的热损耗。

Nexus机架平台图 图:Nexus 机架平台图。来源:cerebras.ai 官方博客

Nexus 平台还引入了可插拔的 Compute Backpack(计算背包)设计,使得模块化组件可以在运维过程中实现快速热替换与弹性升级。这种设计将以往难以维护的晶圆级系统转换为符合标准化机架部署规范的工业产品。硬件维度的工程改进确保了系统在长时间高负载运行中的可靠性与可扩展性。

通过把晶圆、供电、散热与网络 I/O 整合进统一的机柜框架,CS-4 展示了超大晶圆从实验性芯片演变为工程化数据中心节点的可能性。这说明芯片设计的竞争早已超越单颗 Silicon 晶体管的堆叠,转变成包含了热力学、电磁兼容与工业设计的系统工程较量。

Token 经济学重构:推理选型从 GPU 单极走向异构混插

CS-4 的问世展示了专用晶圆架构在 AI 推理领域的独特价值。在 Prefill/Decode 彻底解耦的趋势下,通用 GPU 不再是完成整个推理链路的唯一选项。由通用芯片负责算力密集型 Prefill、专用晶圆芯片负责带宽密集型 Decode 的异构混插模式,展现出更高的运行效率。

对于云计算服务商与大模型部署团队而言,单 Token 成本与交互延迟正在跃升为算力选型的核心考量维度。当数据中心需要处理十万亿参数级的超大模型时,硬件架构的内存带宽与物理互连延迟直接决定了业务的商业可行性。CS-4 用 30 倍于生产 GPU 的生成速度和 2 微秒的晶圆互连,证明了专用系统在极速 Decode 领域的强大竞争力。

AI 推理基础设施从 GPU 单极独占迈向专用芯片异构混插的演进过程已经开启。解码速度与 Token 经济性正在重新定义算力的性价比标准,而围绕晶圆级互连与异构算力解耦的工程创新,将持续推动大模型基础设施的结构性变革。

参考链接:

  • cerebras.ai 官方博客
  • Artificial Analysis AI 硬件评测报告
  • Hacker News 社区技术讨论