推理如何解锁 LLM 的参数化知识
来自 Google Research · 期号 2026-06-25
摘要
大型语言模型在推理时，有时会调用出训练时学到的参数化知识，有时则不会。Google 的研究发现，推理过程本身——尤其是中间步骤的思考——能显著提升模型从自身参数中检索知识的能力。 实验表明，当模型被要求进行逐步推理时，其对事实性问题的回答准确率，相比直接回答有显著提升。这揭示了推理与记忆检索之间的深层关联：思考不仅是计算答案的过程，也是激活记忆的机制。 论文附有实验数据和开源代码。
深读
导读 大型语言模型在回答简单事实性问题时，即使不需要复杂推理，开启思维链（CoT）也能显著提升准确率。Google Research 即将在 COLM 2026 发表的这篇论文揭示了背后的两个机制：推理 token 充当了额外的计算缓冲，以及模型在推理过程中生成的相关事实起到了语义预热的作用。理解这两个机制，有助于设计更可靠的模型训练和测试时策略。 关键信息 - 实验使用 Gemini-2.5 (Flash 和 Pro) 与 Qwen3-32B 三个模型，在 SimpleQA Verified 和 EntityQuestions 两个闭卷问答数据集上进行。 - 开启推理后，模型能成功回答在关闭推理时几乎完全无法恢复的事实性问题，且这一提升并非来自对复杂问题的分解（数据集均为单跳问题）。 - 将推理轨迹替换为无意义的重复字符串 "Let me think" 后，模型的事实回忆能力仍显著高于完全关闭推理的基线，证明了计算缓冲效应的存在。 - 从推理轨迹中仅提取模型提及的具体事实（去除填充词、搜索计划等），用这些事实列表作为条件，即可恢复推理带来的大部分增益。 - 大规模审计发现，推理轨迹中只要包含一个幻觉事实，模型最终答对的概率就会显著下降。 逐节讲解 知识边界的测量 研究首先使用 pass@k 指标测量模型的参数化知识回忆能力边界。pass@k 检查在多次生成尝试中正确事实是否出现，比只看 top-1 更能反映推理对事实回忆的潜力。实验在 Gemini-2.5 (Flash 和 Pro) 与 Qwen3-32B 上，对比同一模型开启与关闭推理模式的表现。结果一致显示，开启推理后模型能成功回忆出关闭推理时几乎无法触及的答案，且这一提升并非来自分解复杂问题（数据集均为单跳问题）。 机制一：计算缓冲 假设生成额外 token 相当于提供了更多前向传播（即额外计算时间），从而帮助模型优化内部状态。实验将模型生成的推理轨迹替换为无意义的 "Let me think" 重复字符串，长度与原轨迹一致。结果发现，即使条件于这种无意义文本，模型的事实回忆能力也显著高于完全关闭推理的基线。不过，该效应存在边际递减：无意义文本越长，收益越趋于饱和，且始终无法完全达到自然推理轨迹的性能，说明推理内容本身仍然重要。 机制二：事实预热 分析自然推理轨迹发现，模型在回答简单事实问题时并非书写逻辑证明，而是列出相关事实。研究提出“事实预热”机制：模型通过生成与问题主题相关的事实，构建语义桥梁，促进正确答案的检索。实验从推理轨迹中严格提取具体事实（去除填充词、搜索计划及最终答案），仅用这些事实列表作为条件，即可恢复推理的大部分增益。例如，问“尼泊尔第十任国王是谁”时，模型先列出前九任国王，这些事实作为“语义热身”帮助其成功回忆出第十任。 幻觉陷阱 由于中间事实由模型自行生成，存在幻觉风险。研究…