你的 Agent 到底需要多少记忆

来自 Hugging Face · 期号 2026-08-19

摘要

IBM Research 的 ALTK-Evolve 让 agent 从自己的历史轨迹中学习:提炼可复用的指导原则,在推理时注入上下文,不需要更新权重,也不需要人工标注。 问题在于,给多少记忆取决于模型本身。在八款模型上的测试发现了三种模式:强模型(如 DeepSeek-V3.2)需要完整的指导原则集,任务完成率提升 9.5 个百分点;弱模型(如 gpt-oss-120b)用精选子集效果最好,提升 16.1 个百分点,且只多花了 5% 的 token;已经饱和的模型则没有可测量的提升。 核心结论是:agent 记忆不是一项可以简单开启的功能,而是一剂需要针对模型校准的剂量。

深读

导读 IBM Research 的 ALTK-Evolve 方法让 agent 从自身历史轨迹中学习,提炼可复用的指导原则并在推理时注入上下文,无需更新权重或人工标注。核心发现是:agent 记忆不是一项可以简单开启的功能,而是一剂需要针对模型校准的剂量,强模型需要完整的指导原则集,弱模型更适合精选子集,而已经饱和的模型则没有可测量的提升。 关键信息 - 在 AppWorld 基准(585 个多步骤任务,覆盖 9 个模拟应用)上测试了 8 款模型,发现了三种记忆模式。 - DeepSeek-V3.2(671B MoE)使用完整指导原则集后,任务完成率(TGC)提升 9.5 个百分点,场景完成率(SGC)提升 16.1 个百分点。 - gpt-oss-120b(117B MoE)使用精选检索策略后 TGC 提升 16.1 个百分点,且 token 开销仅增加 5%;而使用完整指导原则集时开销增加 51%。 - GLM-5(745B MoE)在测试中表现为饱和模式,无论是否添加记忆,TGC 和 SGC 均为 87.5% 和 80.4%,无任何提升。 - Claude Opus 4.6 和 GPT-5.5 在 TGC 上已接近天花板(90.5% 和 92.3%),但添加完整指导原则集后 SGC 仍分别提升 7.1 和 7.2 个百分点。 逐节讲解 核心洞察:剂量取决于能力 并非所有模型都能从相同量的记忆中获益。在 8 款模型上观察到了三种模式: - 有提升空间的强模型需要完整的指导原则集,包括罕见的边缘案例教训。DeepSeek-V3.2 使用完整集合后 TGC 提升 9.5 个百分点。 - 较小或较弱的模型会被大量指导原则淹没。对它们来说,一个紧凑的高置信度核心加上每个任务检索的少量相关原则效果最好。gpt-oss-120b 使用这种精选方法 TGC 提升 16.1 个百分点,而完整集合提升更少且 token 开销高出约 50%。 - 已经饱和的模型没有可测量的提升。GLM-5 属于此类,原因可能是模型本身已接近任务上限、指导原则未针对其剩余失败模式,或模型未能有效应用这些指导。 决定模型落入哪种模式的因素不单是参数量,还包括基准提升空间、上下文窗口大小、架构、指导原则质量和任务分布。 学习发生在模型周围,而非内部 这里的“记忆”不是回放过去的对话记录,而是一组指导原则,从 agent 自身历史轨迹中提炼出的有效策略、应避免的错误和边缘案例。循环流程为:agent 执行任务产生轨迹 → ALTK-Evolve 从成功和失败的运行中提取行为指导原则 → 合并为可复用的集合 → 推理时将完整集合或任务相关子集注入上下文。模型权重从未更新,因此成本低廉且可跨模型移植。 三种配置与结果对比 在 AppWorld 基准上评估,任务通过 TGC(任务目标完成率)和更严格的…

读原文

本站只做摘要与索引,全部内容版权归原作者所有。