Prefill-as-a-Service：下一代模型的 KVCache 可跨資料中心傳輸
Prefill-as-a-Service KVCache of Next-Generation Models Could Go Cross-Datacenter
arXiv
8
Teds Lin 許願
DFlash：用區塊擴散模型實現閃電推測解碼
DFlash Block Diffusion for Flash Speculative Decoding
arXiv
117
林伯燊 許願
上下文並行：可擴展的百萬 Token 推理
Context Parallelism for Scalable Million-Token Inference
arXiv
87
kerg kerg 許願