在 DeepSeek 的单生产单元里,每天有 300 万个沙箱被创建。峰值并发高达 380,000 个。每秒新建频率超过 5,000 次。这来自 DeepSeek Elastic Compute (DSec) 报告。该报告由 Wenfeng Liang 提交,Jialiang Huang 等 130 余人署名。环境构建需求膨胀到这个量级,训练系统矛盾发生了转换。工程瓶颈不再是 GPU 数量。底层平台需要批量造出可回收的环境。这些环境还要与高价算力无缝协调。
统一沙箱运行时容不下各类负载隔离
不同类型的评估任务对隔离强度有互斥要求。代码静态分析只需要单薄的容器隔离层。运行来自公共网络的 agent 执行流则不同。它需要微虚拟机(microVM)乃至完整虚拟机的防线。
图:DSec 核心机制总览(LS 表示 latency-sensitive,BE 表示 best-effort)。来源:arXiv:2609.22978
DSec 放弃了寻找万能解。系统提供四类隔离后端。它们是 FnCall、container、microVM 和 full-VM。这四者由统一 SDK 暴露给应用层。沙箱运作会经历 setup、tool-call、test 三个阶段。setup 跑完后,内部对 CPU 的需求断崖下降转为间歇调用。但其堆栈内存和累积状态依然钉在节点上。用单一运行层去硬扛所有并发环境状态,会导致硬件资源利用率急剧恶化。
抛弃巨型镜像,十节点并发压测证伪全量拉取
高密度的并发直接把压力传导给了存储 IO。单台机器并发峰值达到了 1,048 个容器与 524 个 microVM。面对单机高频环境初始化,传统方式是拉取整块巨型镜像再启动。这会极大地消耗物理机的网络与磁盘带宽。
图:DSec 整体架构,每个 proxy 负责容器或 VM 沙箱与平台其余部分之间的通信,FnCall 走独立执行路径不使用该 proxy。来源:arXiv:2609.22978
DSec 将环境解构成自带版本控制的数据层级。底层借助 3FS 实现了镜像组件文件高并发按需加载。针对 10 个节点发起 8,192 容器冷启动专项压力测试。结果显示,基于 EROFS 的按需拉取方案远快于主动全量 Docker 拉取。组装步骤被后置到服务器本地侧。细粒度数据块直接读取取代了全量文件的解包写入。这规避了中心节点网络死锁。
极低镜像复用率击穿预取缓存策略
架构设计预期往往会被实打实的访问统计击碎。日常作业统计了超过 150 万个容器与 39 万个 microVM。数据表明,任务层面的镜像资源扇出规模非常低。绝大多数运行镜像自始至终只被几个目标沙箱请求过。
图:基于超过 150 万个容器与 39 万个 microVM 统计的任务内镜像扇出,大多数镜像只被任务内极少数沙箱使用。来源:arXiv:2609.22978
镜像总量多且并发复用率低,导致预取缓存策略失效。底层无法通过热点高频统计来预热环境数据。开发团队只能设法提升冷启动步骤的装配效率。DSec 采用直接挂载原生 EROFS 文件层拼装工作区结构。这种机制丢弃了传统归档解包流程。它减少了 setup 阶段的 CPU 浪费与存储设备读写磨损。
调度机制隔离计算资源与反制模型作弊
多租户作业同时执行的互相抢占问题尤为尖锐。受控测试的后台 CPU 负载不断上升。在此情况下,DSec 展现了清晰的调度保护界限。系统引入了 SCHED_IDLE 配合内核级分配机制。相较于无保护状态,核心任务的排队等待时间降到了合理范围内。
图:真实 agentic RL 负载下四种 Firecracker 配置的宿主内存(左)与 CPU 利用率(右)。来源:arXiv:2609.22978
沙箱平台还要分出一部分精力去处理模型经常爆发的异常试探行为。技术报告原文点明了对 reward hacking 奖励欺骗行为的干预机制。现代沙箱平台不再只是运行沙盒。它已经成了阻断模型内生破坏动作的第一道实体防线。
长尾寿命逼迫训练流程与计算节点解耦
最难处理的问题潜藏于请求耗时的极右分布长尾中。DSec 监控了主流容器和 microVM 的运行。数据显示,两类环境介质的中位寿命时间分别为 17.4 分钟和 15.5 分钟。排名前 1% 的存活沙箱实例,存活时长却超过了 3 小时。
图:单生产节点一天内的存活沙箱数量,观测峰值为 1,048 个容器与 524 个 microVM。来源:arXiv:2609.22978
哪怕只有 1% 的测试用例存活数小时。其占据的内存和关联状态,也会阻塞所在物理主机的资源清理。昂贵的 GPU 不能无意义地空转等待。为此,DSec 在架构核心区修改了与顶层 RL 计算框架交互的时序链路。rollout 执行环境带有各种复杂的积累状态。系统将其从核心计算管线中物理剥离。38 万量级的沙箱生命周期,听从外围训练全局调度器的指令自行流转。庞大的沙箱群会保住 rollout 关键现场快照数据。同时,它们会第一时间清退闲置并释放占用的计算空间。
DSec 让分布式的沙箱集群成为独立的调度中心。它不再作为附件依附于核心模型计算图。每天峰值数十万并发的隔离环境能被随时调配启动。这让 agentic RL 训练的工程基础支撑得以稳健运转。
参考链接:
- arXiv:2609.22978 预印本
- DeepSeek Elastic Compute 框架系统报告