最终结论
最强、最可写成 paper method 的方�不是“decode 完再修格式”，也不是“单点 local edit”，而是： 在 hard commit 之前检测不确定性，必要时展开 recurrent branch，并用可验证 anchor 选择是否覆盖 base。
Full AVLR 仍是强 baseline
Qwen3-8B, GSM8K full 1319, hybrid005 topk8：base 37.38% → 44.20%，95% CI [+4.85, +8.79]。
Pre-commit entropy 是强 trigger
Qwen2.5-3B 上 commit entropy 预测 bad-basin failure 的 AUC 为 0.774；Qwen3 为 0.693。
Online verified branching 可 no-harm
Qwen3 online ent0.05 topk8 verified：+3.18%，wrong-to-correct 3.18%，correct-to-wrong 0。
实验时间线
MCTS recurrence basin 证据
在 MCTS 搜出的 valid programs 上测 recurrence 是否把高熵 latent state 推向稳定 basin。结果支持“recurrence 有收缩/定向作用”，但也表明它不是一个绝对可靠的单点判据。
DART malformed / placeholder basin
先从 boxed answer 这种容易自动检测的 anchor 出发，验证 training-free recurrence retry 能不能把 malformed / placeholder answer 拉回正确答案。
GSM8K intermediate anchors
把 anchor 扩展到中间计算步骤：calc anchors <<expr=result>> 和 var anchors。关键 trigger 从格式失败扩展到 final/calc mismatch。
Full AVLR 大规模与迁移
在 GSM8K full 1319、Qwen2.5 transfer、DART harder subsets 上验证稳定增益和统计显著性。
Online / pre-commit policy
证明 commit entropy 能在答案完成前预测 bad basin，并进一步实现 online pre-commit branching。
MCTS Basin 证据
目的：验证 recurrence 是否具有动力系统意义，即是否能把一个高熵 latent state 推向某个稳定 basin。
| 设置 | 样本/事件 | 主要数值 | 结论 |
|---|---|---|---|
| MCTS valid programs | 40 programs, 37 with recurrence, 106 events | 平均 entropy delta = -0.410；entropy 下降比例 61.3%；extra-loop contraction 56.6%；basin-like 20.8%。 | recurrence 经常降低 entropy 并产生收缩，但不是所有 repeat 都进入稳定 basin。 |
| High-entropy subset | 77 events | 平均 entropy delta = -0.591；extra-loop contraction 62.3%；basin-like 16.9%。 | 高熵位置更容易出现 recurrence-induced contraction，但 margin/top1 不总是同步改善。 |
AVLR：Anchor-Verified Latent Recurrence
AVLR 的核心是 training-free：当 base output 落入可检测坏 basin，生成 recurrent retry pool， 再用 anchor consistency / support / verification 选择是否替换。
Decode
生成 base answer 或 trace。
Detect
检测 boxed malformed、calc mismatch、anchor failure 或 commit uncertainty。
Branch
用 recurrent layer path 生成多个候选。
Verify
用 final box、calc anchor、support2/verified selector 选择。
Protect
若没有高置信候选，保留 base。
GSM8K Full 1319
| 实验 | Base | Selected | Gain | 95% CI / p | 结论 |
|---|---|---|---|---|---|
| Qwen3 AVLR lite, hybrid010 topk5 | 37.38% | 41.55% | +4.17% | [+2.58, +5.76], p=5.93e-7 | 低成本 setting 显著有效。 |
| Qwen3 AVLR max, hybrid005 topk8 | 37.38% | 44.20% | +6.82% | [+4.85, +8.79], p=2.11e-11 | 当前 full-answer AVLR 的最强主结果。 |
| Qwen2.5-3B transfer, hybrid005 topk8 | 30.25% | 36.54% | +6.29% | [+4.85, +7.81], p=8.30e-17 | 跨模型稳定；不是 Qwen3-specific。 |
| Qwen2.5-3B always topk8 | 30.25% | 38.59% | +8.34% | [+6.67, +10.08], p=3.40e-23 | 高成本 upper operating point。 |
DART / Harder Math Transfer
| Dataset / model | Base | Selected | Gain | C2W | 结论 |
|---|---|---|---|---|---|
| DART level1, Qwen3, n=1000 | 40.6% | 54.1% | +13.5% | 0 | boxed malformed/placeholder basin 上效果极强。 |
| DART level2, Qwen3, n=500 | 30.0% | 37.8% | +7.8% | 0 | 更难子集仍有效。 |
| DART level1, Qwen2.5-3B, n=500 | 1.0% | 9.4% | +8.4% | 0 | 弱模型上能修复大量 malformed basin。 |
中间步骤 Anchor 实验
对于数学 reasoning，最终 boxed answer 只是最后一个 anchor；中间计算也可以被设计成可验证 anchor。 我们测试了 calc anchors 和 var anchors。
Calc anchor
<<expression=result>>，可以自动验证 RHS 是否等于 expression，并检查 final boxed value 是否等于最后一个有效 calc result。
Qwen3 GSM8K exact 0-500：base 37.0% → selected 43.4%，W2C 7.4%，C2W 1.0%。
Var anchor
[VAR name = expression = value]，能验证变量表和引用一致性；pilot 显示可行，但 prompt 更难。
Qwen3 var anchor pilot：base 36.0% → selected 42.0%，C2W 0。
Pre-Commit Risk Probe
目的：不等完整答案生成完，在模型刚要写入一个 anchor value 时判断是否应该 hard commit。
| 实验 | Probe rate | AUC: commit entropy → bad basin | AUC: recurrence sensitivity → bad basin | 结论 |
|---|---|---|---|---|
| Qwen3 calc, full 1319 | 97.3% | 0.693 | 0.576 | commit entropy 明显优于 fixed late-layer recurrence sensitivity。 |
| Qwen2.5 calc, full 1319 | 95.9% | 0.774 | 0.525 | 弱模型上 pre-commit entropy 是非常强的 bad-basin predictor。 |
| Qwen3 var, 0-500 | 99.2% | 0.721 | 0.441 | recurrence sensitivity 不稳定；trigger 应该用 entropy / margin。 |
Online Pre-Commit Branching
这是目前最 novel 的 practical method：不是完整 decode 后 retry，而是在 commit 前拦截并展开 recurrent suffix pool。
| 实验 | Base | Selected | Gain | W2C / C2W | 结论 |
|---|---|---|---|---|---|
| Qwen2.5 online ent0.05 topk8 support2 | 29.87% | 36.32% | +6.44% | 7.28 / 0.83 | 弱模型上 online branching 直接成立，CI [+4.93, +7.96]。 |
| Qwen3 online ent0.05 topk8 support2 | 38.67% | 38.59% | -0.08% | 4.78 / 4.85 | 候选池有正确答案，但 selector 太激进，正确修复被错误覆盖抵消。 |
| Qwen3 online ent0.05 topk8 verified | 38.67% | 41.85% | +3.18% | 3.18 / 0 | 强模型需要 high-precision verified selector；no-harm 成立。 |
| Qwen3 online ent0.10 topk8 verified | 38.36% | 40.49% | +2.12% | 2.12 / 0 | 更低 trigger rate，适合作为低成本 operating point。 |
| Qwen3 base-only control ent0.05 | 38.67% | 38.67% | 0 | 0 / 0 | 提升不是来自“重新从 prefix 生成”，而是 recurrence branch + verifier。 |
Selector / Top-k Ablation
Qwen3 verified selector
所有 top-k 下 C2W = 0。topk8 更强，topk5 是可能的低成本折中。
Qwen2.5 anchor_score selector
弱模型更需要高召回 selector；verified 过于保守，只给 +1.14%。
负结果与排除项
| 方向 | 观察 | 结论 |
|---|---|---|
| True online one-shot recurrent commit | 直接把后续 path 切到 recurrent path 容易破坏强模型已正确的轨迹。 | 不能盲目替换；需要 branch pool + verifier + fallback。 |
| Local commit edit / span edit | 候选 oracle 低，candidate wrong 高；strict verifier 接受率低。 | 单点 local edit 不足以修复 reasoning basin；suffix-level branch 更合理。 |
| Public LRM / CoDI / Coconut probing | 公开权重可靠性有限；若模型 next-token entropy 近零，threshold policy 无法产生有用早停。 | 当前 paper 主线应先落在 hard-decoding LLM 的 training-free inference-time policy。 |
| Fixed recurrence sensitivity trigger | AUC 弱于 commit entropy，var anchor 上低于随机。 | recurrence 是 escape action，不是最强 trigger。 |
下一步实验与论文定位
下一步实验
- 实际重跑 Qwen3 verified cost ablation：ent0.05/0.10 × topk3/5/8，测真实 cost ratio，而不是 posthoc top-k。
- Qwen2.5 使用 anchor_score / support selector，补 full 1319 cost-controlled operating points。
- 实现 local anchor-value branch：只生成到 anchor close，而不是整段 suffix，进一步降成本。
- 做 case studies：展示 high commit entropy 如何对应错误 hard commit，以及 verified recurrent branch 如何避免 C2W。
论文定位
- 区别于训练 latent reasoning 模型：我们是 training-free inference-time controller。
- 区别于 self-consistency：branch 不是随机采样，而是 targeted recurrent path perturbation。
- 区别于 format repair：base-only control gain = 0，DART C2W=0，Qwen3 verified C2W=0。
- 核心概念：hard commit basin, pre-commit uncertainty, recurrent basin escape, anchor-verified acceptance。