混合推理 Agent:在隐空间思考,通过文本行动
来自 Hacker News · 期号 2026-10-19
摘要
LLM agent 的推理通常完全在文本空间进行(Chain-of-Thought),但文本是离散的,每一步都受限于 token 序列。 这篇论文提出 Hybrid Reasoning Agent,让 agent 先在模型的隐空间(连续向量空间)里做推理和规划,再把结果解码成文本行动。隐空间推理可以并行探索多条路径,效率更高。 在 WebArena、SWE-bench、ALFWorld 等 agent 基准上,Hybrid Agent 超过了 GPT-4o 和 Claude 3.5 Sonnet 的纯文本 CoT 版本。代码和模型权重已开源。 有评论指出,隐空间推理的可解释性是个问题——你不知道它在隐空间里想了什么。