先度量再管理:编码 agent 的工作记忆评估

来自 arXiv · 期号 2026-09-01

摘要

编码 agent 的工作记忆里,指令、工件、工具输出、agent 自身状态这几类对象,在大小、保留时长和表示方式上都不一样。 作者分析了 55 条编码 agent 的完整轨迹,发现语义不同的记忆对象在保留和压缩行为上差异明显。基于这个观察,他们试了两种语义感知的管理策略:一种按对象类型做压缩,一种靠检索来取。 结果发现:在某个任务上调好的策略,换到新任务上效果就没了;同样的 token 预算,实际交付的上下文和管理成本可以差很多。在真实系统上回放时,还暴露了名义预算反映不出的服务瓶颈。 论文把教训归纳成四个层次:存储状态、交付上下文、管理工作、任务结果。

深读

导读 这篇论文聚焦编码 agent 的工作记忆管理,核心论点是:工作记忆中的对象(指令、工件、工具输出、agent 自身状态)在语义上具有异质性,因此不能用一个统一的 token 预算来评估管理策略。读完能带走一套四层评估框架,以及一个关键教训:在某个任务上调好的记忆管理策略,换到新任务上效果就没了。 关键信息 - 论文分析了 55 条编码 agent 的完整轨迹,发现语义不同的工作记忆对象在保留时长和压缩行为上存在明显差异。 - 作者尝试了两种语义感知的管理策略:按对象类型做压缩的策略,以及基于检索的策略。 - 在某个任务上调好的策略,换到新任务上效果不再成立;同样的 token 预算,实际交付的上下文和管理成本可以相差很大。 - 真实系统回放暴露了名义 token 预算反映不出的服务瓶颈。 - 论文将教训归纳为四个层次:存储状态、交付上下文、管理工作、任务或过程结果。 逐节讲解 工作记忆的异质性 论文首先指出,agent 工作记忆中的对象不是同质的。指令、工件、工具输出、agent 自身状态这几类对象,在大小、保留时长和表示方式上都不一样。作者分析了 55 条编码 agent 的完整轨迹,证实了语义不同的工作记忆对象在保留和压缩行为上确实存在显著差异。这一观察构成了全文的出发点:既然对象天生不同,管理策略就不应该一刀切。 两种语义感知的管理策略 基于上述观察,作者研究了两种语义感知的管理策略:一种是按对象类型做压缩(object-aware compression),另一种是靠检索来取(retrieval-based policy)。论文对这两种策略进行了评估,结果发现两个关键问题:第一,在某个任务上调好的策略,换到新任务上效果就消失了(calibration gains may not transfer to held-out tasks);第二,同样的 token 预算,实际交付的上下文和管理成本可以差很多,即名义预算不能等价于实际效果。 四层评估框架 论文将教训归纳为四个层次:存储状态(stored state)、交付上下文(delivered context)、管理工作(management work)、任务或过程结果(task or process outcome)。作者认为,评估工作记忆管理策略不能只看名义 token 预算,而应该在这四个层次上分别考察。真实系统回放进一步暴露了名义预算反映不出的服务瓶颈,说明仅靠 token 数量来评估管理策略是不够的。 值得注意 原文信息有限,以下基于论文摘要。论文声称分析了 55 条轨迹并提出了两种策略,但摘要没有给出任何具体的数字结果(如压缩率、检索命中率、任务完成率的变化),也没有说明实验所用的编码 agent 类型或任务场景。因此,策略的实际效果和结论的适用范围在可见部分中无法判断。

读原文

本站只做摘要与索引,全部内容版权归原作者所有。