Target: From Hallucination to Structure Snowballing: The Alignment Tax of Constrained Decoding in LLM Reflection Category: model · Mode: per-paper synthesis (1 vs 8 peers)
本篇是一篇 约束解码 × 自我纠错 × 小模型容量 的负结果实证研究：把 8B 模型（Qwen3-8B）的反思阶段用 Outlines FSM 强约束成结构化 JSON，发现不仅不提升自我纠错，反而触发 "structure snowballing" 死循环、掉分 12 pt，并把额外 token 消耗定义为 "alignment tax" [2604.06066]。八篇 peer 都在 model 类别，可按与本篇的关联轴分成三簇：
簇 A — 同一失败家族 / 同一数据集（最强相关）
簇 B — 约束/解码干预的对照方法
簇 C — 长上下文 / 数据侧 baselines 与 model-release 对照
model 类别但主题（线性注意力架构 / 音视频生成）与本篇正交，仅作类别调查的边界样本，用于对比 "真 model-release" 与本篇 "行为研究" 的证据标准差异。新意（本篇独有）
增量（对已知结论的延伸）
FORMATTING_MISMATCH [2604.06066]，是 "表面对齐掩盖深层错误" 的最极端可视化。矛盾 / 张力
攻击点 1：headline penalty 只 "marginally significant"，结论过硬。
50.0%→38.0% 的核心掉分对应 McNemar's $p\approx0.059>0.05$ [2604.06066]，即在常规 0.05 阈值下 不显著。本篇却据此给出 "alignment tax inherent to constrained decoding" 的普适性表述。对照 2510.05381 用 5 models × 4 tasks 的多重一致性来支撑其 "长度独立伤害" 结论 [2510.05381]，本篇 n=100、单模型、单数据集的证据强度明显更弱。反驳：真正 load-bearing 的是机制证据（token surge + 96/100 塌缩），而非 accuracy delta——但作者自己的 L2 一致性检查第 6 项也承认这一点 [2604.06066]，说明标题级 claim 有 overreach。
攻击点 2："taxonomy" 是伪 5 类，实为 1 类。
4+1 分类里 96 个诊断是 FORMATTING_MISMATCH、4 个 RETRIEVAL_FOCUS，其余三类（BRIDGE_FAILURE / HALLUCINATION / INFERENCE_ERROR）从未触发 [2604.06066]。那么 "structure snowballing" 究竟是 约束解码的固有税 还是 这个特定 taxonomy 设计 + HotpotQA exact-match 的产物？本篇自己承认 exact-match 造成 survivor bias、把残差错误偏向 formatting [2604.06066]。这与 2510.05381 用 essay→whitespace→mask 三级递减把 confound 逐层剥离 [2510.05381] 的严谨度形成对比——本篇缺少 "换 taxonomy / 换 metric" 的对照，无法排除混淆。
攻击点 3：evaluator = actor = judge 同为 Qwen3-8B，深层错误可能 "被构造性漏检"。
L2 明确指出：同模型充当 Actor/Evaluator/Judge 时，evaluator 的语义天花板不超过 actor，"deep" 错误可被 by construction 漏检 [2604.06066]。那么 "模型只会 formatting 层纠错" 可能部分是 judge 看不出深层错 造成的假象，而非模型能力上限。对照 2412.10079 用固定的 best-subspan accuracy + 确定性 API [2412.10079] 隔离了评测方差，本篇的自评闭环是一个未被消融的 confound。
攻击点 4：case study 的 "成功" 恰恰证伪了机制解释。
附录 Lawson 案例里，Trial-3 的 RETRIEVAL_FOCUS 纠正规则给出 事实错误 建议（"American Music Club likely has more members"），Actor 却仍答对 [2604.06066]。本篇的 L2 也承认 "correction rule 的 格式 比 内容 更重要" [2604.06066]。这动摇了 "结构化反思提供有效诊断" 的前提——若成功来自格式刚性而非诊断正确，那 "syntactic aligner 好、semantic depth-probe 差" 的二分本身也站不稳（可能连 syntactic aligner 的功劳都要归给 exact-match 巧合）。
范式定位：本篇属于 2024–2026 一波 "显式结构/引导干预在弱模型上反噬" 的负结果研究，与 2412.10079（CoT 反噬）、2509.17765（Thinking 反噬感知）、2510.05381（长度本身伤害）共同构成一个 "less is more / 干预有代价" 的证据群。它的独特生态位是把这个论点下沉到 decode-layer 硬约束 这一最强的干预形式：如果连 100% schema 合规都救不了 8B 的语义纠错，那 "结构化即改进" 的乐观假设在小模型上被彻底证伪。
与 "软 vs 硬" 解码干预谱系的坐标：把 decode-layer 干预排成一条谱线——
本篇占据 "最硬" 端，其负结果恰好界定了这条谱线的失效边界：约束越硬，对小模型的容量挤占越严重。这是本 cluster 里没有其他论文提供的边界锚点。
采纳证据：代码 + raw logs 开源（GitHub: hongxuzhou/agentic_llm_structured_self_critique）[2604.06066]，但为单作者、n=100、无第三方复现的早期工作，采纳度低。相比之下 2404.16811（微软 FilM，权重 + 代码全开）[2404.16811] 和 2510.26692（Kimi Linear，权重 + kernel + config 全开）[2510.26692] 属于工业级可复现 model-release，本篇更像一篇 "警示性 case report"，其生态位价值在于 提出概念（structure snowballing / decode-layer alignment tax） 而非 提供可部署方案。
"alignment tax" 术语的语义漂移：本篇是把该词用于 constrained decoding compute cost 的较早实例；DeepSeek-V2 早已用它指 RL 对齐的 benchmark 回退 [2405.04434]。本篇实际上是给这个术语开了一个新分支（decode-time vs train-time tax），生态位上有 "术语再定义" 的贡献，但也带来混淆风险。
方向 1（hybrid：软约束替代硬约束）：把本篇的 Outlines 硬 FSM 换成 PCD 式软对比解码——用 "偏好结构化 token 的 logit bias" 而非 "把非法 token 置零"。这直接测试 §4 的核心张力：是否 约束的硬度 而非 约束的存在 导致容量挤占？可复用 PCD 的 top-$\gamma$ 限制思路 [2506.08371] 只对高概率结构化候选加权。此 cluster 中无人做过 "软硬约束在同一 taxonomy 任务上的配对消融"。
方向 2（adaptive：容量感知的动态约束触发）：本篇 §6 已提出 "重复失败则解除约束" 的 dynamic fallback，但未实现。可借鉴 2510.05381 的 retrieve-then-solve 两步式 [2510.05381]：第一步自由文本诊断，仅当诊断稳定后第二步再上格式约束——把 "语义 → 语法" 解耦为两个 pass，避免 formatting trap 抢占反思带宽。
方向 3（scale：alignment tax 的 scaling law）：本篇假设 70B-class 能用刚性 taxonomy 做深层调试但未测。可与 2412.10079 的 "在 GPT-4o / Llama-3.1-128k 上重测位置偏置" 开放问题 [2412.10079] 合并成一个统一的 capacity × constraint-granularity 网格实验：横轴模型规模、纵轴 taxonomy 粒度，测 structure snowballing 何时消失。这是 cluster 级的空白（无人量化 "约束反噬" 与规模的关系）。
方向 4（metric：execution-based benchmark 去 survivor bias）：本篇结论受 HotpotQA exact-match 的 survivor bias 污染（§3 攻击点 2）。可迁移到 code / 数学等有 definitive 逻辑失败的 execution-based 任务——正是 2405.04434 用 code compiler + math ground-truth 做 RL reward 的思路 [2405.04434]。若在这类任务上 taxonomy 不再塌缩到单一 formatting 类，则可证明 structure snowballing 是数据集 artifact 而非解码固有税。
方向 5（modality/架构迁移）：本篇在 Qwen3-8B dense 上做。可延伸到 (a) MoE 模型（如 2510.26692 Kimi Linear 的 3B-activated MoE [2510.26692]）测 "激活参数少是否更易被格式约束挤占容量"；(b) 多模态 Thinking 模型（2509.17765 已报告 Thinking 反噬感知 [2509.17765]），测约束解码是否在感知任务上放大幻觉。这打通 "structure snowballing" 与 "Thinking overhead" 两个独立观测。