ALTK-Evolve：用更少 token 做
来自 Hugging Face · 期号 2026-08-11
摘要
IBM Research 提出 ALTK-Evolve，让 LLM agent 从自身轨迹中学习，无需更新权重或人工标注。它将经验提炼为可单独检索的指南，每条保留支持计数，不做压缩。与 ACE 每步注入完整手册不同，ALTK-Evolve 只在推理时递送相关指南，从而节省 token。 两种方法都拒绝压缩经验——ACE 用逐条计数器，ALTK-Evolve 用支持计数，本质相同。区别在于构建方式（ALTK-Evolve 按类型聚类合并，保留来源）和交付方式（按需检索 vs 全量注入），后者直接决定了 token 开销。
深读
导读 LLM agent 在执行多步任务时，失败往往不是因为不知道 API，而是不知道如何可靠地使用它们。IBM Research 提出的 ALTK-Evolve 和同期工作 ACE 都试图从 agent 自身的历史轨迹中学习经验，但两者的交付方式截然不同，直接导致了数倍的 token 开销差异。读完本文，你会看到一种不压缩经验、按需检索的 agent 记忆方案，以及它在 AppWorld 上以 ACE 约 40% 的推理成本取得更高准确率的实证结果。 关键信息 - ALTK-Evolve 和 ACE 都拒绝压缩 agent 学到的经验：ACE 为每条经验保留一个 helpful/harmful 计数器，ALTK-Evolve 保留一个 support count（有多少条独立轨迹产生了这条经验），两者本质相同。 - 在 AppWorld 的 168 个任务上，使用 DeepSeek-V3.2 时，ALTK-Evolve 的 Task Goal Completion (TGC) 达到 89.3，高于 ACE 的 80.4，而每任务 token 消耗仅为 263K（ACE 为 634K）。 - 在较弱的模型 gpt-oss-120b 上，ALTK-Evolve 的 TGC 为 56.0，略高于 ACE 的 54.8（作者称在 benchmark 的 run-to-run 噪声范围内可视为平手），但每任务 token 消耗仅为 116K，约为 ACE（777K）的七分之一。 - 两种方法的核心差异在于交付方式：ACE 在每一步都将完整的 playbook 注入到 prompt 中；ALTK-Evolve 则按需检索，只递送当前任务相关的少量指南，并将交付量视为一个可调节的旋钮。 逐节讲解 共同立场：不压缩经验 ACE 和 ALTK-Evolve 都认为，将 agent 从轨迹中学到的经验压缩成几条通用规则会带来损失。ACE 明确指出了两种压缩失败模式：brevity bias（优化倾向于生成简短、泛化的指令）和 context collapse（模型在每一步重写上下文时丢失细节）。ACE 的解法是保留一份逐条列举的 playbook，每条附带 helpful/harmful 计数器，让模型在读取时自行判断相关性。ALTK-Evolve 从另一个方向得出了相同的结论：每条独立的 guideline 保留一个 support count，记录有多少条独立轨迹产生了它，并且从不将整个经验库压缩成少数几条规则。一个被五个不同任务发现的教训和一个只出现一次的教训，两者都值得保留。 差异一：经验库的构建方式 ACE 通过一个 Generator → Reflector → Curator 循环来维护一个 playbook，采用增量 delta 更新，并通过 embeddin…