共演化 harness 与模型：在线策略修正帮助弱模型追
来自 arXiv · 期号 2026-09-09
摘要
Agent 的 harness（系统提示、工具集、执行钩子、上下文管理脚手架）对任务成败影响很大。自动演化 harness 能让小模型在特定领域任务上表现更好，但 harness 和模型权重共同决定行为，两者如何配合是个问题。 研究者先在七个企业 agent 任务上用弱模型演化 harness，发现强专家模型用同一套 harness 效果更好，说明专家监督可能补上差距。但把专家的完整轨迹拿来训练弱模型反而坏事：Qwen3-Coder 和 Gemma 4 在所有七个任务上退步 4 到 30 分。分析发现，模仿让弱模型学会了专家的规划策略，但自己执行不了，同时破坏了与原有 harness 的匹配。 于是他们设计了一个在线策略的专家修正流程，由元级 MLE agent 自动定位弱模型自己 rollout 中出错的回合，只让专家重写那一回合。这样保留了弱模型的规划风格，同时融合了 harness 演化和模型适配的收益。 论文在七个企业 agent 任务上验证了这套兼容性保持的共演化方案。
深读
导读 这篇论文研究的是如何让小型语言模型在企业级 Agent 任务上表现更好。核心发现是：先为弱模型演化出适配的 harness（系统提示、工具集等脚手架），再用专家模型的完整轨迹去微调弱模型，反而会让性能全面倒退。作者提出了一种在线策略的专家修正流程，只让专家改写弱模型自己 rollout 中出错的回合，从而保留模型与 harness 的匹配。对于想用低成本小模型替代前沿模型做特定领域任务的团队，这篇文章给出了一个关键警告和一条可行的替代路径。 关键信息 - 实验覆盖七个企业级 Agent 任务，涉及 Qwen3-Coder 和 Gemma 4 两个弱模型。 - 用专家完整轨迹做模仿学习，两个模型在所有七个任务上性能退步 4 到 30 分。 - 同样的模仿流程在未演化的 harness 下反而有帮助，说明问题出在演化后的 harness 与模型权重之间的匹配被破坏。 - 分析发现：模仿让弱模型学会了专家的规划策略，但弱模型自身没有能力执行该策略，同时也不再适配围绕其原生规划风格演化出的 harness。 - 作者提出的在线修正流程由元级 MLE agent 自动定位弱模型 rollout 中出错的回合，仅让专家重写那一回合。 逐节讲解 问题：Harness 演化与模型微调如何配合 Agent 的 harness 包括系统提示、工具集、执行钩子和上下文管理脚手架，对任务成败影响很大。自动演化 harness 能让小模型在特定领域任务上表现更好，但 harness 和模型权重共同决定行为，两者如何配合是个问题。研究者先在七个企业 agent 任务上用弱模型演化 harness，发现强专家模型用同一套 harness 效果更好，说明专家监督可能补上差距。 模仿学习为何适得其反 把专家的完整轨迹拿来训练弱模型反而坏事：Qwen3-Coder 和 Gemma 4 在所有七个任务上退步 4 到 30 分。分析发现，模仿让弱模型学会了专家的规划策略，但自己执行不了，同时破坏了与原有 harness 的匹配。值得注意的是，同样的模仿流程在未演化的 harness 下反而有帮助，这进一步说明问题出在演化后的 harness 与模型权重之间的匹配被破坏。 在线策略的专家修正方案 作者设计了一个在线策略的专家修正流程，由元级 MLE agent 自动定位弱模型自己 rollout 中出错的回合，只让专家重写那一回合。这样保留了弱模型的规划风格，同时融合了 harness 演化和模型适配的收益。该方法提供了一条兼容性保持的共演化路径，用于经济地提升小模型在企业特定任务上的表现。 值得注意 本文仅基于论文摘要，具体实验设置、数据集细节、元级 MLE agent 的实现方式以及各任务上的量化对比结果在摘要中未展开。