DeepSeek Elastic Compute (DSec)：面向大規模高效代理式訓練的沙箱基礎設施

用大型語言模型 (LLM) 做大規模代理式訓練與評測，仰賴隔離、有狀態的執行環境——模型在其中檢視軟體庫、呼叫工具、執行命令、與任務專屬服務互動。這些工作負載會成大批 (in large bursts) 地建立沙箱、橫跨異質的功能與隔離需求、在長互動中保留狀態、且從龐大的映像 (image) 語料中取用而重用率有限。支撐它們因此需要一個彈性執行平台，而非單一的沙箱 runtime。本報告介紹 DeepSeek Elastic Compute (DSec)，一個生產級沙箱平台，透過統一 SDK 暴露 FnCall、容器 (container)、microVM、full-VM 四種沙箱後端。DSec 跨叢集協調放置 (placement) 與生命週期管理、把環境從獨立版本化的層 (layer) 組合出來、結合記憶體共享/回收與 CPU 排程做高密度執行、並從叢集級分散式檔案系統 Fire-Flyer File System (3FS) 按需 (on demand) 載入映像資料。DSec 與 RL 框架協同設計，把有狀態的 rollout 執行與可搶佔 (preemptible) 的 GPU 訓練解耦、把沙箱生命週期與訓練協調以「保留 rollout 狀態、同時回收閒置資源」、並緩解如獎勵駭入 (reward hacking) 的代理不當行為。DSec 的一個生產規模單元橫跨約 160 個節點、每日服務約 300 萬個沙箱；在生產中支撐 超過 38 萬個並發沙箱、每秒超過 5,000 個沙箱建立。評測與部署經驗顯示，這些機制降低了環境設定與映像分發的開銷、提升記憶體效率、並在高密度超額配置 (overcommit) 下保住延遲敏感任務的效能。