并非所有思考都等价：隐空间推理发现深度泛化的循环搜索算法
来自 arXiv · 期号 2026-09-29
摘要
大语言模型可以用不同方式做多步推理：生成中间 token（思维链）、暂停、或者在隐空间里计算。这篇论文把同一个 GPTNeoX 骨架从零训练了五个变体，在扩展多跳推理任务 ProsQA-Ext 上做对比。 所有模型在分布内问题上都表现不错，但只有隐空间推理的变体能泛化到训练时没见过的更长推理链。因果干预和电路分析定位到，瓶颈隐空间模型内部有一个稀疏的循环搜索电路：一个注意力头负责取图关系，MLP 和残差流在循环步之间更新可达状态，多个注意力头一起做候选匹配。 隐空间模型学到的是一个可复用的前向搜索算法，能泛化到训练深度之外；而基于 token 的方法依赖局部图特征，遇到分布外长链就失效。
深读
导读 这篇论文的核心发现是：大语言模型的不同推理方式（生成中间token、暂停、或在隐空间计算）会学到截然不同的计算机制，即使它们在训练集上的表现相近。关键结论是，只有隐空间推理的模型能泛化到训练时没见过的更长推理链。值得一读，因为它揭示了“思考”的形式本身会决定模型学到什么算法，这对设计更鲁棒的推理架构有直接启示。 关键信息 - 论文将同一个GPTNeoX骨架从零训练了五个变体：基础模型、思维链（CoT）模型、暂停token模型、以及两个隐空间推理模型（端到端优化，无中间推理痕迹）。 - 所有模型在分布内（ID）的多跳推理任务ProsQA-Ext上表现良好，但只有隐空间推理变体能泛化到分布外（OOD）的更长推理链。 - 因果干预和电路分析定位到，瓶颈隐空间模型内部有一个稀疏的循环搜索电路：一个注意力头负责取图关系，MLP和残差流在循环步之间更新可达状态，多个注意力头一起做候选匹配。 - 隐空间模型学到的是一个可复用的前向搜索算法，能泛化到训练深度之外；而基于token的方法依赖局部图特征，遇到分布外长链就失效。 逐节讲解 研究问题与实验设计 论文要回答的核心问题是：LLM的不同推理形式（生成中间token、暂停、或在隐空间计算）是否依赖相同的底层机制？为了控制变量，作者将同一个GPTNeoX骨架从零训练了五个变体，并在一个扩展的多跳推理任务ProsQA-Ext上做对比。五个变体分别是：基础模型（无中间步骤）、思维链（CoT）模型、暂停token模型、以及两个隐空间推理模型（端到端优化，不产生任何中间推理痕迹）。 分布内表现与泛化能力的分离 所有模型在分布内（ID）问题上都表现不错，但这一结果具有欺骗性。因果干预和电路分析显示，Vanilla、CoT和暂停token模型主要依赖局部图特征来解题，它们学会了识别训练数据中的模式，而不是真正理解推理链的结构。因此，当面对分布外（OOD）问题（即推理链长度超过训练时见过的任何样本）时，这些模型的表现急剧下降。 隐空间推理的循环搜索机制 隐空间推理变体则表现出截然不同的行为。其内部动态与图上的前向可达性传播一致。通过因果干预和电路分析，作者定位到一个稀疏的循环搜索电路：一个注意力头负责从图中提取关系，MLP和残差流在循环步之间更新当前的可达状态，多个注意力头共同完成候选匹配。这个电路实现的是一个可复用的前向搜索算法，因此能泛化到训练时没见过的更长推理链。 值得注意 - 论文的结论建立在ProsQA-Ext这一特定任务上，这是一个结构化的图推理任务。隐空间推理的优势是否适用于更开放、更依赖知识的自然语言推理任务（如数学证明或长文档问答），尚不明确。 - 隐空间推理模型虽然泛化能力更强，但其内部循环搜索电路的具体实现细节（如循环步数如何确定、计算开销如何）在摘要中未展开。