IdleSpec 处在 "agent idle-time exploitation" 这条研究线的核心位置，周围的相关工作可按目标函数分为三个簇。
Speculative Interaction Agents (2605.13360) 是 IdleSpec 最直接的姐妹论文。两篇同月发表，都在工具执行期间做投机推理，但优化目标正交：Speculative Interaction 将 agent 推理与用户输入流/工具响应流解耦以降低端到端延迟（1.6–2.2×），核心机制是 async I/O + safe/unsafe 工具分类 + commit-point 语义 [2605.13360]。它假设当前轨迹将成功，属于论文自己定义的 "单模式投机"——不处理 observation uncertainty [2605.22154]。此外 Speculative Interaction 需要专门的 clock-based SI-SFT 训练使 3B 模型理解异步格式 [2605.13360]，而 IdleSpec 是纯推理时方法，不改模型权重。
Speculative Tool Calls (2512.15834) 更早（2025-12），用小模型投机预测下一次 tool call 并异步执行，证明了 client-side 投机上界严格 < 2× [2512.15834]。其核心洞察——"tool 应尽早投机、尽多投机"——被 IdleSpec 和 Speculative Interaction 都继承了，但 2512.15834 只解决 "预测 tool call 是否匹配" 的问题，不关心预测错误时的 recovery 策略。投机命中率 $\alpha$ 是其关键变量，8B 模型在 BFCL 上达 ~80% [2512.15834]。
PASTE (2603.18897) 将投机粒度从 "下一个 tool call" 提升到 "tool call + 参数推导"。Pattern Tuple $(C, T, f, p)$ 解耦控制流和数据流，使 95% 的 URL 参数可从搜索结果符号推导 [2603.18897]。PASTE 作为 middleware 部署（~250 MB 内存），与 agent 框架无关 [2603.18897]，但其 Top-1 预测准确率仅 27.8%，靠多候选投机 + 93.8% overall hit rate 弥补 [2603.18897]。
CPU-Centric Perspective (2511.00739) 首次量化了 agent 系统的 CPU 侧瓶颈：工具执行最高占端到端延迟 88% [2511.00739]。这个数字为所有 idle-time 利用方案提供了物理前提——IdleSpec 在 Figure 2(a) 给出了类似的 81%–92.6% 数据 [2605.22154]，两者高度一致。2511.00739 提出 COMB（微批重叠）和 MAS（混合调度）解决 CPU-GPU 利用率失衡 [2511.00739]，但不涉及 idle time 期间的额外计算——它只优化调度，不增加推理。
ThunderAgent (2602.13692) 引入 "agentic program" 作为一等调度单元，用指数时间衰减函数管理 KV-cache [2602.13692]。其核心发现——KV-cache thrashing 是 agent serving 的头号瓶颈，per-request 调度完全忽视 workflow 内强 prefix 依赖导致 7.14× 延迟放大 [2602.13692]——直接与 IdleSpec 的 idle-time drafting 产生交互：drafting 期间 agent 不发 LLM 请求给 serving engine，理论上缓解了 KV-cache 压力。
HEXGEN-FLOW (2505.05286) 和 HexAGenT (2605.16637) 代表同一作者组从单请求调度走向 workflow-aware 调度的演进。HEXGEN-FLOW 用 SLO 预算沿 DAG 反向传播 + 紧急度优先队列 [2505.05286]，HexAGenT 进一步引入 projected scaled-SLO risk 排序 + 联合异构 P-D placement [2605.16637]。两者的核心假设——workflow DAG 结构已知或 online-revealed——与 IdleSpec 的推理层操作正交：IdleSpec 在单步 tool 调用内部工作，不涉及跨步调度。
Dive into Claude Code (2604.14228) 通过源码逆向工程揭示 "1.6% 决策逻辑 + 98.4% 确定性基础设施" 范式 [2604.14228]。其五层上下文压缩管道 [2604.14228] 和 ReAct-style queryLoop [2604.14228] 是 IdleSpec 可集成的自然宿主：在 queryLoop 的 tool execution 等待阶段插入 idle-time drafting，不需要修改 agent loop 结构。Claude Code 的 93% permission approval rate [2604.14228] 暗示 production agent 的每步工具调用确实有大量等待时间可利用。
IdleSpec 与其他投机方案最本质的区别在优化目标。Speculative Interaction [2605.13360]、Speculative Tool Calls [2512.15834]、PASTE [2603.18897] 都以延迟降低为目标（1.3–2.2× 加速、48.5% E2E 减少），不改变也不试图改变 agent 的任务成功率。IdleSpec 反其道行之：延迟开销 ~0（idle tokens 与工具执行并行），但目标是提升准确率（+4.6% ~ +6.8%）[2605.22154]。这使 IdleSpec 与 test-time compute scaling 处于同一 family，而非与 speculative decoding 处于同一 family。
所有先前投机方案都做了隐含假设：当前轨迹将成功（progressive-only）。Speculative Interaction 投机发起的 tool call 假设 "用户输入最终会到达且行动是正确的" [2605.13360]；Speculative Tool Calls 假设 "小模型预测的 tool call 匹配大模型的选择" [2512.15834]；PASTE 假设 "历史 pattern 在未来仍然成立" [2603.18897]。IdleSpec 是唯一一个将 observation uncertainty 建模为 exploitation-exploration 问题并用 Thompson sampling 求解的方案 [2605.22154]。消融实验证明单一策略（progressive-only 44.7 vs recovery-only 44.0 vs dual 48.2）显著不如双策略 [2605.22154]。
Speculative Tool Calls 的 tool cache 要么命中要么回退 baseline [2512.15834]；PASTE 的投机结果要么 promote 要么 preempt [2603.18897]——都是 binary 决策。IdleSpec 引入 reference-based aggregation：drafted plans 作为参考提示而非强制约束，模型在 observation 到达后自主综合或改进 [2605.22154]。这一机制在小模型上尤为关键——Sleep-Time Compute 强制使用 idle-time 产出导致 Qwen3.5-4B 降性能 3.8%，IdleSpec 反升 6.8% [2605.22154]。
ThunderAgent 和 HexAGenT 在 serving 层优化 KV-cache 管理和跨步调度 [2602.13692] [2605.16637]，但不增加额外推理。IdleSpec 在推理层增加额外计算但不改变 serving 调度。两者在架构上完全正交——可以叠加使用。IdleSpec 的兼容性实验已部分证明这一点：叠加在 Sequential Revision 和 Planning 上分别提升 27.9→32.2 和 32.2→35.3 [2605.22154]，说明 idle-time compute 是正交的 scaling 维度。
IdleSpec 的贡献不是增量的。它开辟了一个之前未被占领的坐标点："idle-time compute for accuracy"，并给出了该坐标点的一阶最优解（dual drafting + Thompson sampling + reference aggregation）。但其方法论本身是已知组件的组合（Beta-Bernoulli Thompson sampling 来自经典 bandit 文献，reference-based aggregation 是 prompt engineering 变体），创新在问题建模而非算法。
Table 6(c) 是唯一支持 "Thompson sampling 优于替代选择策略" 的实验，仅在 FRAMES + Qwen3.5-4B 一个组合上验证 [2605.22154]（论证链 Step 5 强度 "中强"）。Adaptive 65.3 vs Random 63.3 的差距为 2.0pp，在 3-seed 评估的方差范围内可能不显著。对比 Table 1 中 Qwen3.5-4B 在 FRAMES 上的 ±4.2 标准差，这个 delta 缺乏统计置信度。攻击者可以声称：Thompson sampling 的优势可能是噪声，random selection 就够用了。
Beta-Bernoulli 共轭更新假设 progressive/recovery 的成功概率在整个 trajectory 中恒定 [2605.22154]。但 agent 任务的难度和状态在步骤间是非平稳的：搜索阶段偏 progressive，调试阶段偏 recovery。论文用 uniform prior $\alpha=\beta=1$ 初始化并在 trajectory 中不重置 [2605.22154]，意味着前期积累的 posterior 会惯性地影响后期策略分配。Thompson sampling 的随机探索成分部分缓解了这一问题，但在长 trajectory（MLE-Bench 24h）中，posterior 可能过度集中在一侧。论文未在 MLE-Bench 上报告 per-step 的 progressive/recovery 分布变化。
Table 6(a) 显示 recovery-only（44.0）比 progressive-only（44.7）更差 [2605.22154]。论文解释为 "agent 不断切换方案无法推进"。但这意味着 recovery 策略本身可能有害——当 Thompson sampling 因 posterior 偏移而频繁选择 recovery 时，效果可能比不做投机更差。论文未报告 "IdleSpec 比 vanilla 更差" 的失败案例分析，Table 5 的 High ultra-short group 仅显示 IdleSpec 持平 vanilla（50.0 vs 50.0）[2605.22154]，但没有展示负面案例。
IdleSpec 声称延迟开销 ~0 因为 idle tokens 与工具执行并行 [2605.22154]。这在单用户设置下成立，但 ThunderAgent 的分析表明多租户 agent serving 中 KV-cache 是硬约束 [2602.13692]。IdleSpec 在 idle time 期间调用 LLM 生成 draft，这些调用会占用 serving engine 的 batch 槽位和 KV-cache 容量。在 16 个 vLLM replicas [2605.22154] 的实验设置下资源充裕，但在高并发生产环境中，idle-time drafting 的额外请求可能加剧 KV-cache thrashing——正是 ThunderAgent 试图解决的问题 [2602.13692]。PASTE 明确用 slack 资源做投机、preemption 保护 authoritative 请求 [2603.18897]，IdleSpec 没有类似的资源管理机制。
2605.13360 和 2605.22154 同月发表，研究同一个 niche（tool 执行期间的投机推理），但两篇互相没有对比实验。Speculative Interaction 在 HotpotQA 和 TinyAgent 上验证 [2605.13360]，IdleSpec 在 GAIA、FRAMES、MLE-Bench 上验证 [2605.22154]——benchmark 完全不重叠。两者的核心假设冲突——Speculative Interaction 认为投机应面向延迟优化并需要模型微调，IdleSpec 认为应面向精度优化且不需要微调——但这个冲突未被任何实验检验。
矛盾根源: 两者的目标函数不同（latency vs accuracy），使得直接比较需要 Pareto 分析，但 Speculative Interaction 未报告 accuracy 变化，IdleSpec 也未报告 multi-turn latency breakdown。
IdleSpec 标志着 "idle-time utilization" 从系统优化问题转向算法/策略问题。2025-2026 年之前，idle time 被视为不可避免的系统开销（CPU-Centric Perspective [2511.00739] 的分析框架）或可通过异步执行隐藏的延迟（Speculative Tool Calls [2512.15834]、PASTE [2603.18897] 的方法）。IdleSpec 首次将 idle time 重新定义为额外的 test-time compute budget——这与 2025 年 test-time scaling 浪潮（Best-of-N、tree search、sequential revision）的逻辑一致，但利用的是 "免费" 的时间窗口而非额外的计算成本。
从 agent 技术栈看，8 篇相关论文覆盖了从底层 serving（ThunderAgent [2602.13692]、HexAGenT [2605.16637]）到中间件（PASTE [2603.18897]、HEXGEN-FLOW [2505.05286]）到 agent 框架层（Claude Code [2604.14228]、Speculative Interaction [2605.13360]）。IdleSpec 处于最上层——推理策略层。它不需要修改 serving engine、middleware 或 agent 框架，只需在 agent 的 tool-call 等待环节注入 drafting 逻辑。这种最小侵入性使其与整个下层栈兼容，但也意味着它无法感知和响应下层的资源约束。
IdleSpec 的采纳门槛极低：4 个 prompt template + 两个计数器 $(\alpha, \beta)$ [2605.22154]。与 PASTE 的 ~12K LOC middleware [2603.18897]、ThunderAgent 的 program abstraction + global queue [2602.13692]、HexAGenT 的 event-driven scheduler [2605.16637] 相比，IdleSpec 几乎是零工程成本。但其代价是无法利用系统层信息（KV-cache 状态、队列深度、资源预算），这在 production 环境中可能成为瓶颈。
Claude Code 的架构分析显示 production agent 的核心是极简 while-loop + 庞大确定性基础设施 [2604.14228]。IdleSpec 的 drafting 逻辑可以无缝嵌入这个 while-loop 的 tool-wait 阶段——不违反 Claude Code 的 "minimal scaffolding" 原则，因为 drafting 本身不改变 loop 结构。
当前 "精度族"（IdleSpec）和 "延迟族"（Speculative Interaction、Speculative Tool Calls、PASTE）完全割裂。一个自然的联合优化是：在 idle time 前半段做 speculative tool call（延迟优化），后半段做 speculative planning（精度优化）。IdleSpec 的 idle-aware termination [2605.22154] 已经支持可变长度 drafting，PASTE 的投机任务也支持 preemption [2603.18897]——两者的执行模型在技术上可以叠加。但需要解决资源分配问题：当 serving engine 已承受多租户压力时（ThunderAgent 的场景 [2602.13692]），idle-time compute 的额外请求是否应该被调度器感知和限流。
IdleSpec 将策略空间限制为 progressive/recovery 二元选择 [2605.22154]。但 §3.2 的实验本身展示了至少 4 种可选策略（summarization、reflection、planning-progressive、planning-recovery）[2605.22154]。扩展到 K-armed bandit 可以动态在更丰富的策略集中选择。PASTE 的 pattern mining [2603.18897] 提供了另一个策略生成路径：根据历史 tool-call 模式生成 task-specific 的 drafting template，而非使用固定的 progressive/recovery prompt。
HexAGenT 维护 online workflow DAG 和 projected scaled-SLO risk [2605.16637]，HEXGEN-FLOW 的 SLO 预算沿 DAG 反向传播 [2505.05286]。这些信息可以指导 IdleSpec 的 drafting 决策：如果 workflow 已接近 SLO deadline（$R_s > 1$），应偏向 progressive drafting 加速推进；如果余量充足，可以偏向 recovery 探索替代路径。当前 IdleSpec 的 Thompson sampling 只利用 binary forecast 信号 [2605.22154]，未接入任何 workflow-level 的紧迫度信息。
IdleSpec 的 Beta-Bernoulli Thompson sampling 有经典 bandit 的 regret bound，但论文未将其扩展到 agent task 的 success-rate model [2605.22154]。Speculative Tool Calls 给出了 client-side 加速比的理论上界 < 2× [2512.15834]。ThunderAgent 证明了指数衰减是 memoryless 假设下唯一合法的 KV-cache 衰减函数 [2602.13692]。一个开放问题是：给定 observation uncertainty 模型（工具返回的成功概率分布 + 信息量分布），progressive/recovery 混合策略的 regret bound 是否优于 pure strategy？在什么条件下 idle-time planning 的精度增益可以被 formally bounded？
IdleSpec 每条 trajectory 独立初始化 $\alpha=\beta=1$ [2605.22154]。但 Claude Code 的分析显示用户行为有跨 session 的一致性（auto-approve 率随经验从 20% 增长到 40%+ [2604.14228]），暗示 agent 的 progressive/recovery 偏好也可能跨 task 保持稳定。将 posterior 在 session 间传递（类似 PASTE 的 pattern pool 跨 session 复用 [2603.18897]）可以加速 warm start，但需要处理 task distribution shift。