Procedural Graphs
来自 arXiv · 期号 2026-09-09
摘要
LLM agent 在长程任务中容易丢失目标、调用工具顺序错乱、重复无效操作。 这篇论文提出 Procedural Graph：把 agent 该做什么、按什么顺序做、在什么条件下做，组织成（步骤, 关系, 步骤）的三元组图。每步决策时，一个引导模型把当前节点周围的子图翻译成情境指导，影响但不强制 agent 的下一步动作。 图结构会自我演化：LLM 对比失败轨迹与成功轨迹，编辑图的拓扑和属性，保留能提升验证性能的改动，拒绝会降低性能的改动。从极简骨架开始，循环构建出的图可以匹配甚至超越手工设计的图，也能修复有缺陷的专家先验。 在多个数据集、任务类型和 LLM 上，Procedural Graph 一致优于基于记忆的 baseline，自我演化进一步提升了性能。
深读
导读 LLM agent 在执行长程任务时容易丢失目标、工具调用顺序错乱、重复无效操作。这篇论文提出 Procedural Graph，将 agent 该做什么、按什么顺序做、在什么条件下做，组织成（步骤, 关系, 步骤）的三元组图，并通过自我演化机制从失败轨迹中学习改进。读完可以理解一种不依赖手工设计、能自动优化 agent 执行流程的结构化方法。 关键信息 - 核心问题：agent 通过无约束生成从累积历史中选择动作，隐式保留了过程知识，导致长程任务中丢失目标、工具调用顺序错乱、重复无效操作。 - Procedural Graph 将过程知识组织为（procedure, relation, procedure）三元组，类比知识图谱的（entity, relation, entity）三元组。 - 每步决策时，引导模型将当前节点周围的子图翻译成步骤级情境指导，影响但不强制 agent 的下一步动作。 - 自我演化机制：LLM 对比失败轨迹与成功轨迹，编辑图的拓扑和属性，保留能提升验证性能的改动，拒绝会降低性能的改动以避免重复。 - 从极简骨架开始，循环构建出的图可以匹配或超越手工设计的图，也能修复有缺陷的专家先验。 - 在多个数据集、任务类型和 LLM 上，Procedural Graph 一致优于基于记忆的 baseline，自我演化进一步提升了性能。 逐节讲解 问题背景：长程任务中 agent 的隐式过程知识缺陷 LLM 被越来越多地部署为 agent，需要在长程中规划并通过外部工具行动。当前大多数 agent 通过无约束生成从累积历史中选择动作，过程知识（做什么、按什么顺序、在什么条件下做）是隐式的。随着轨迹变长，agent 会丢失目标、工具调用顺序错乱、重复无效操作。 方法：Procedural Graph 的结构与决策机制 论文提出 Procedural Graph，类比知识图谱的组织方式：知识图谱用（实体, 关系, 实体）三元组回答“是什么”问题，Procedural Graph 用（步骤, 关系, 步骤）三元组回答“做什么”问题。每步决策时，框架定位 agent 的当前活跃节点，一个引导模型将周围子图翻译成步骤级情境指导，影响但不强制 agent 的下一步动作。 自我演化：从失败中学习并改进图结构 图结构是自我演化的：一个 LLM 精炼器对比失败轨迹与成功轨迹，编辑图的拓扑和属性。它只保留能提升或维持验证性能的改动，拒绝会降低性能的改动，并将被拒绝的改动记录下来以避免重复。从极简骨架开始，这一循环构建出的图可以匹配或超越手工设计的图，也能修复有缺陷的专家先验。 实验结果：一致优于记忆型 baseline 在多个数据集、任务类型和 LLM 上，Procedural Graph 一致优于基于记忆的 baseline。自我演化进一步提升了性能，且不…