vLLM — Weekly Pulse (L2) #

2026-W21 #

趋势: DeepSeek V4 生态适配全面铺开，KV connector 可靠性加固，Model Runner V2 持续推进。

• kv-cache: V2 runner 支持 KV cache 层共享 (#35045)，为 GQA/MQA 减少显存；kv_offload 新增 DSv4 支持 (#43142)；MooncakeStore 修复 block 对齐 (#43494) 和双重延迟释放 (#43371)
• scheduler: 调度器保活以处理 KV connector 延迟释放 (#43433)；NVFP4 cutlass kernel 实现 batch-invariant (#39912)
• disagg: ROCm 新增 XGMI 后端支持 MoRI connector (#41753)，拓展 AMD 侧 disagg 能力
• DSv4 适配: ROCm MTP 支持落地 (#43385)；但 dynamo 不安全访问 (#43511)、quant_config 硬编码 (#43512) 暴露适配缺口
• 信号: RFC 提案 Gumiho 投机解码 (#43545)；Elastic EP 外部 LB (#43202) + DSv4 MegaMoE EPLB (#43339) 显示 MoE 弹性扩缩持续探索
• 关联: KV cache 层共享与缓存管理综述方向一致 [ref:2412.19442]；MoRI XGMI 后端扩展 [ref:ROCm-mori]