高效推理训练并不总是损害CoT忠实性和可监控性
来自 arXiv · 期号 2026-10-03
摘要
思维链（CoT）推理让人类可以检查大模型的决策过程，但推理需要更多算力。高效推理训练通过减少生成 token 来降低成本，但人们担心模型会跳过关键步骤，使 CoT 不再忠实反映模型决策。 论文用三种不同的长度压力方法微调模型：固定生成预算、逐示例长度目标、组相对长度奖励，然后评估忠实性（CoT 是否真实反映模型在相关输入上的决策）和可监控性（CoT 能否在输入干扰改变输出时暴露这一点）。 结果发现两种属性受训练的影响不同。忠实性在大多数设置下下降，主要是因为训练后模型的一致性变差。可监控性则更稳健：即使 CoT 短了很多，模型仍会在回答中承认输入干预的影响。