ALTK-Evolve：用学习到的记忆在客服任务上登顶
来自 Hugging Face · 期号 2026-10-20
摘要
IBM Research 的 ALTK-Evolve 用 GPT-4.1 从 agent 过去的任务尝试中提取行为准则，追加到 system prompt 里。 在 τ²-bench 零售域，一个基本的 ReAct agent 配上这套学习到的准则，Pass^4 达到 67.5%，超过了所有使用前沿模型的参赛条目。准则让 agent 更可靠：零售域 Pass^4 从 57.5% 升至 67.5%，航空域从 35.0% 升至 45.0%。 准则也提升了使用 GPT-5.5 的 agent，航空域 Pass^4 从 55.0% 升至 70.0%。成本增加主要在输入 token 上，大部分可以通过 prompt caching 回收，而且对话轮次反而略有减少。 原文是论文解读，附了完整的实验设置和消融分析。
深读
导读 IBM Research 的 ALTK-Evolve 提出了一种无需更新模型权重的 agent 记忆方法：用 GPT-4.1 从 agent 过去的任务尝试中自动提取行为准则，追加到 system prompt 里。在 τ²-bench 零售域，一个基础的 ReAct agent 配上这套学习到的准则，Pass^4 达到 67.5%，超过了所有使用前沿模型的参赛条目。读完能带走一种低成本、可迁移的 agent 可靠性提升方案，以及它对不同模型和领域的适用边界。 关键信息 - ALTK-Evolve 使用 GPT-4.1 从 agent 的训练任务轨迹中提取行为准则，同一模型既负责准则提取也驱动 agent，无需权重更新或人工标注。 - 在 τ²-bench 零售域（40 个测试任务），lossless 配置（292 条准则）将 GPT-4.1 agent 的 Pass^4 从 57.5% 提升至 67.5%，Mean Accuracy 从 78.1% 提升至 82.5%。 - 在航空域（20 个测试任务），lossless 配置将 GPT-4.1 agent 的 Pass^4 从 35.0% 提升至 40.0%，而更紧凑的 sup3 配置（14 条准则）反而达到 45.0%，说明最佳准则数量因领域而异。 - 准则带来的成本增加主要在输入 token 上：零售域 lossless 配置每轮对话成本从 $0.084 升至 $0.139（+65%），但对话轮次反而减少（10.59 → 10.16）。 - 准则同样提升了使用 GPT-5.5 的 agent：航空域 Pass^4 从 55.0% 升至 70.0%（+15 个百分点），且 lossless 配置在多次运行中结果完全一致。 - 在 τ²-bench 全部分割（训练 + 测试）上，使用 GPT-4.1 的 agent 在零售域 Pass^4 达到 67.5%，超过所有参赛条目，包括经过微调的 RAFT-30B-A3B（61.4%）。 逐节讲解 核心思路：用学习到的准则替代权重更新 ALTK-Evolve 的核心是让 agent 从自己的过往尝试中学习。它用 GPT-4.1 分析 agent 在训练任务上的轨迹，将成功和失败的经验蒸馏成简短的行为准则，例如“在采取任何与订单相关的操作前先验证用户身份”、“在确认所有更改前给出清晰的结构化摘要并等待用户明确批准”。这些准则以 Markdown 列表的形式追加到 system prompt 中的领域政策之后。agent 模型和准则提取模型是同一个 GPT-4.1，整个过程不需要更新模型权重，也不需要人工标注。 τ²-bench 测试场景与评估指标 τ²-bench 由 Sierra 开发，测试 agent 在真实约束下处理客服对话的能力。每个任务中，agen…