| Entity | Title | 关联维度 | 关联强度 |
|---|---|---|---|
| 2510.27656 | fabric-lib: RDMA Point-to-Point Communication for LLM Systems | 同属 cluster 类目；均关注跨节点/跨 DC 的 LLM workload 调度/传输，但层级完全不同：fabric-lib 解决字节级 RDMA 传输，MARLIN 解决请求级 DC 选择 | 中 |
| 2511.02168 | Eliminating Multi-GPU Performance Taxes | 同属 cluster 类目；MARLIN 的 latency 模型（Eq. 4）中 $LA_{tot,exec}$ 包含 GPU 内部执行效率，Three Taxes 的 BSP 消除直接影响此项 | 弱 |
| 2605.06113 | BalanceRoute: Practical Online DP Routing for LLM Decode Serving | 均为 LLM 推理请求路由问题，但粒度不同：BalanceRoute 在单集群内做 DP 实例间负载均衡，MARLIN 在全球 DC 间做多目标路由 | 强 |
| 2604.15039 | PrfaaS: KVCache of Next-Generation Models Could Go Cross-Datacenter | 均涉及跨 DC 的 LLM serving 决策；PrfaaS 证明 KV-cache 可跨 DC 传输（13% egress），为 MARLIN 式跨 DC 路由提供数据平面可行性 | 强 |
| 2603.17456 | MFS: Multi-stage Flow Scheduling for LLM Serving | 均关注 LLM serving 中的网络调度；MFS 解决单集群内 disaggregated MoE 的三阶段流争用，MARLIN 解决跨 DC 的请求分发 | 中 |
关联逻辑：MARLIN 在 KB cluster 类目中开辟了全新子方向——跨 DC 多目标 meta-scheduling，与现有两篇 cluster 论文（fabric-lib、Three Taxes）形成垂直分层关系而非水平竞争。fabric-lib 和 Three Taxes 解决"数据到达目标 DC 后如何高效传输和计算"的问题 [2510.27656] [2511.02168]；MARLIN 解决"请求首先应该被发送到哪个 DC"的上游问题 [2605.13496]。三者共同构成 geo-distributed LLM serving 的完整栈：MARLIN（inter-DC routing）→ fabric-lib（inter-node data transfer）→ Three Taxes/Iris（intra-node kernel fusion）。
来自 framework 类目的三篇论文提供互补视角：BalanceRoute (2605.06113) 展示了单集群内精细路由的价值 [2605.06113]；PrfaaS (2604.15039) 验证了跨 DC KV-cache 传输的工程可行性 [2604.15039]；MFS (2603.17456) 揭示了 disaggregated serving 中网络调度的必要性 [2603.17456]。
MARLIN 操作于 Kubernetes/vLLM 之上的 meta-scheduling 层，将 8 个全球分布 DC（每个含 1,000 节点）作为原子调度单元 [2605.13496]。这与 KB 中所有其他调度工作形成鲜明对比：
| 论文 | 调度粒度 | 调度范围 |
|---|---|---|
| MARLIN (2605.13496) | Request → DC | 全球 8-12 DCs |
| BalanceRoute (2605.06113) | Request → DP instance | 单集群内 DP 实例 |
| MFS (2603.17456) | Flow → network path | 单集群 disaggregated MoE |
| fabric-lib (2510.27656) | Byte → NIC/GPU | 节点间/节点内 |
| Three Taxes (2511.02168) | Tile → CU | 单 GPU 内核 |
MARLIN 填补的是从"单集群调度"到"跨 DC 调度"的空白。但其 DC-level 粒度也意味着对 intra-DC 资源分配完全透明——MARLIN 将请求路由到 DC 后，intra-DC 调度由底层系统处理 [2605.13496]。
KB 中的所有 LLM 调度器（BalanceRoute、MFS、DynaServe、JITServe 等）以 throughput/latency/SLO 达标率为唯一优化目标。MARLIN 首次将 carbon emissions、water usage、energy cost 与 TTFT 联合优化 [2605.13496]，形成 4D Pareto front。
核心量化依据：GPT-4o 推理年碳排放超过 30,000 辆汽车，年耗水超 500 个奥运泳池 [2605.13496]。这些数字来源于文献引用（Jegham 2025, Leppert 2026），为 sustainability-aware scheduling 提供了规模论证。
然而，"可持续性"维度的引入本质上利用了 DC 间 carbon/water intensity 的时空异质性 [2605.13496]。在所有 DC 使用相同清洁能源的假设下，MARLIN 退化为纯 latency optimizer（边界检查 §4 Check 2 亦确认此点）[2605.13496]。
MARLIN 的方法论对 KB 是全新的：四个独立 SAC agent 各优化单目标，通过 capital-modulated consensus 博弈出 Pareto-optimal 方案 [2605.13496]。KB 中最接近的 RL 工作是 BalanceRoute 的 binary termination classifier（简单 ML 辅助启发式），复杂度相差数个量级。
Phase 2 consensus 是最关键贡献：移除 Phase 2 导致 PHV 下降 66.5%，远超任何其他组件 [2605.13496]。这证明了"先独立优化、后博弈整合"优于端到端联合训练或 scalarized reward 的直觉。
PrfaaS 证明了跨 DC KV-cache 传输在 commodity Ethernet 上可行：混合注意力将单实例 KV 吞吐压至 ~3 Gbps，13% egress bandwidth 即可实现 +54% 吞吐 [2604.15039]。MARLIN 的 TTFT 分解中 $LA_{net,i} = dist \times \lambda_{media} + R_{s,d} \times \sigma_{hop}$ 隐含了跨 DC 网络延迟 [2605.13496]，但其模型仅考虑 propagation delay + hop latency，未建模 KV-cache 传输的带宽竞争。
如果 MARLIN 的路由决策导致某 DC 成为 PrfaaS 式 prefill hub，该 DC 的 egress 带宽可能成为瓶颈，但这在 MARLIN 的模型中不可见。两者的结合（MARLIN 选 DC → PrfaaS 决定 prefill placement → fabric-lib 执行传输）是一个有吸引力但未验证的全栈方案。
MARLIN 全部实验在自建 Python 仿真器中完成，无真实 geo-distributed DC 部署验证 [2605.13496]。关键假设中有多个与真实环境不符：
对比：fabric-lib 在 384 GPU 生产环境部署 [2510.27656]；BalanceRoute 在 vllm-ascend 上实测 [2605.06113]。MARLIN 是 KB cluster 类目中唯一纯仿真论文。
MARLIN-Balanced 在 8 DC 场景下 TTFT 比 QLearning 劣化 23.61% [2605.13496]。对于 SLA < 1 秒的 interactive serving（ChatGPT 类应用），这不是"trade-off"而是不可接受的退化。BalanceRoute 显示 barrier 同步下 straggler 导致的几十毫秒不均衡即可造成 >40% 加速器时间浪费 [2605.06113]——MARLIN 的跨 DC routing 延迟（百毫秒量级）会叠加在此之上。
MARLIN 的 TTFT 定义为 $LA_{load,i} + 2 \times LA_{net,i} + LA_{tot,exec,i}/T_i$，包含模型加载和双向网络延迟 [2605.13496]。但缺少排队延迟（queueing at target DC）和 cold-start 延迟（model not resident in GPU memory）。真实部署中这两项可能数量级大于 propagation delay。
EWMA 回归预测器在 >90% accuracy 下仅需 ~100μs [2605.13496]，但该 accuracy 定义不明。对照真实 ChatGPT trace 的极端 burstiness（15-min epoch 内从 0 到 175,000 请求）[2605.13496]，简单 EWMA 在突发到达时的预测滞后可能严重影响路由质量。BalanceRoute 已展示即使有 binary termination classifier，预测仍是瓶颈 [2605.06113]。
论文未发布模拟器代码、训练脚本或模型权重 [2605.13496]。复现需要：(1) 全球 8 DC 的真实 CI/GI/TOU 时间序列数据，(2) ChatGPT/Azure 级别的请求 trace，(3) SAC + Phase 2 consensus 的完整实现含 20+ hyperparameters。对比：fabric-lib 开源 [2510.27656]；Three Taxes/Iris 开源 [2511.02168]。
MARLIN 每 15 分钟做一次调度决策。在 epoch 内，请求按上一轮决策固定路由到各 DC。但真实 LLM 推理延迟在秒量级——15 分钟内可处理数千请求。BalanceRoute 的 per-request 路由粒度和 MFS 的 per-flow 调度均在毫秒-秒级决策 [2605.06113] [2603.17456]。MARLIN 的粗粒度意味着无法响应 epoch 内的 workload 突变或 DC 故障。
对比的 8 个 baseline 包括 QLearning、DDQN 等经典 RL 和 Helix、NSGA-II 等启发式。缺少与现代 LLM serving scheduler（vLLM scheduler、SGLang router、Mooncake router）以及 carbon-aware workload manager（Google Carbon-Aware Compute）的对比。SLIT 作为唯一 sustainability baseline 是 2024 年工作——在快速演进的领域中，这些 baseline 可能已被超越。
MARLIN 代表了 LLM serving 调度的第三代范式转移：
| 代际 | 代表 | 优化目标 |
|---|---|---|
| 第一代：performance-only | Helix, Splitwise, PerLLM | Throughput / Latency |
| 第二代：SLO-aware | BalanceRoute, MFS, JITServe | SLO attainment / Goodput |
| 第三代：sustainability-aware | MARLIN, SLIT | Performance + Carbon + Water + Cost |
MARLIN 的独特贡献在于证明了多目标博弈产生的 Pareto front 严格优于 single-objective 方案（PHV 46.4% 超越次优）[2605.13496]。但从产业采纳角度看，驱动力不足：
暂无。论文来自学术团队，无产业合作伙伴披露，无真实部署报告。
现有 cluster 类目的 fabric-lib 和 Three Taxes 均已达到"生产可用/开源可复现"的成熟度 [2510.27656] [2511.02168]。MARLIN 停留在"概念验证 + 仿真验证"阶段。从 adoption ladder 看：
[概念论文] → [仿真验证] → [小规模实测] → [生产部署] → [开源/生态]
↑ MARLIN ↑ fabric-lib
↑ Three Taxes/Iris
MARLIN 的 inter-DC routing 与 BalanceRoute 的 intra-cluster DP 均衡、MFS 的 intra-cluster flow scheduling 存在自然的层次化组合机会。MARLIN 选择目标 DC → BalanceRoute 在 DC 内做 DP instance 路由 → MFS 调度 disaggregated flows。当前每层独立优化可能导致层间决策冲突：MARLIN 认为某 DC 负载可承受而路由请求过去，但 BalanceRoute 发现该 DC 内部已严重不均衡。联合优化或至少 feedback loop（BalanceRoute 向 MARLIN 反馈 DC 内部健康度）是未探索的技术可行方向。
PrfaaS 已证明长上下文 prefill 可 offload 到远端 DC 再传回 KV-cache [2604.15039]。若将 PrfaaS 的 prefill DC 选择权交给 MARLIN 的 sustainability-aware 路由器，则可实现：将 carbon-heavy DC 的 prefill 负载转移到 carbon-light DC，同时通过 PrfaaS 的混合注意力压缩 KV-cache 使跨 DC 传输可行。这结合了 MARLIN 的控制平面决策和 PrfaaS 的数据平面工程。技术瓶颈：MARLIN 的 15-min epoch 粒度与 PrfaaS 的 per-request 路由决策不匹配，需要将 MARLIN 的 agent 输出解释为概率分布而非确定性路由。
MARLIN 的网络延迟模型忽略了 MFS 所揭示的流级争用问题 [2603.17456]。一个更现实的模型应将 RDMA 带宽竞争（fabric-lib 在 EFA 上仅达 54 Gbps vs CX-7 的 400 Gbps [2510.27656]）和 intra-DC 网络争用纳入 MARLIN 的 state representation。同时 fabric-lib 的 host proxy CPU 开销随 EP 线性增长 [2510.27656]——大规模部署时的通信 overhead 也应成为 energy/carbon 模型的一部分。
将 MARLIN 的固定 15-min epoch 替换为 event-driven 调度：当 carbon intensity 发生阶跃变化（如风电骤降）时触发重路由，平时保持稳态以避免请求迁移开销。类似于 Three Taxes 的 Pull/Push 自适应——M≈128 的分界点是 workload-dependent 的 [2511.02168]——MARLIN 的 epoch 长度也应根据 CI 波动率动态调整。
MARLIN 的 PUE 模型基于传统空气冷却（COP=5 时 PUE≈1.73）[2605.13496]。液冷 DC（PUE < 1.1）正在快速普及，这将大幅压缩 cooling energy 在 sustainability 目标中的权重，使 water usage 模型中的 $G_{cool}$（冷却蒸发水）项与 $G_{gen}$（发电用水）项的相对重要性反转。MARLIN 的 agent reward 结构可能需要重新设计以适应液冷主导的未来。