朴素 prompt 优化：重新思考复杂搜索的必要性
来自 arXiv · 期号 2026-08-27
摘要
自动 agent 的 prompt 优化方法越来越复杂，但未必有必要。 本文提出 NPO，一种轻量级单线方法：用一个更强的教师模型，根据 rollout 反馈反复修改 prompt。在多个任务上，NPO 用更少的 rollout 就达到了与复杂方法 GEPA 相当或更好的效果。教师模型越强，NPO 的优势越明显——更强的推理能力可以部分替代优化器端的搜索复杂度。 在交互式游戏中，NPO 与 GEPA 整体持平；GRPO 在部分不适用 prompt 优化的任务上表现更好。NPO 优化出的 prompt 直接套用到同系列的其他学生模型上，也能带来类似的性能提升。 初步结果表明，简单的线性 prompt 搜索可以匹敌远更复杂的搜索过程。
深读
导读 自动 agent 的 prompt 优化正变得越来越复杂，但一篇来自康奈尔大学的论文提出，简单方法可能就够了。论文提出的 NPO 方法仅靠一个更强的教师模型反复修改 prompt，就在多个任务上追平甚至超过了复杂搜索方法 GEPA，且需要的 rollout 更少。读完可以了解：prompt 优化的复杂度是否被高估了，以及教师模型的推理能力能在多大程度上替代搜索。 关键信息 - NPO（Naive Prompt Optimization）是一种单线迭代方法：用一个更强的教师模型，根据 rollout 反馈反复修改 prompt。 - 在多个任务上，NPO 用比 GEPA 更少的 rollout 就达到了相当或更好的性能。 - 教师模型越强，NPO 的优势越明显，更强的推理能力可以部分替代优化器端的搜索复杂度。 - 在交互式游戏中，NPO 与 GEPA 整体持平；GRPO 在部分不适用 prompt 优化的任务上表现更好。 - NPO 优化出的 prompt 直接套用到同系列的其他学生模型上，也能带来类似的性能提升。 逐节讲解 背景：prompt 优化正变得越来越复杂 论文指出，提升自主 agent 在多样化任务上的效率是加速递归自我改进（RSI）的核心。Prompt 优化作为一种有前景的方法，能带来与微调模型权重相当的性能提升，同时降低优化和推理的计算成本。然而，近期的发展趋势却越来越倾向于采用不必要的复杂 prompt 优化器。 方法：NPO——简单的单线迭代 论文提出 Naive Prompt Optimization（NPO），一种轻量级的单线方法。其核心流程是：使用一个更强的教师模型，根据 rollout 反馈（即 agent 执行任务后的结果）反复修改 prompt。整个过程是线性的，不涉及复杂的搜索或分支。 实验结果：简单方法不输复杂搜索 NPO 在多个任务上达到了与 GEPA（一种更复杂的 prompt 搜索方法）相当或更好的性能，且需要的 rollout 次数更少。教师模型的推理能力越强，NPO 的优势就越明显，这表明更强的推理可以部分替代优化器端的搜索复杂度。在交互式游戏任务中，NPO 与 GEPA 整体持平；而 GRPO 则在部分不太适合 prompt 优化的任务上表现更好。此外，NPO 优化出的 prompt 直接套用到同系列的其他学生模型上，也能带来类似的性能提升。 值得注意 - 论文标题和摘要均强调这是“初步结果”（preliminary results），意味着结论的适用范围和稳健性还有待更大规模实验验证。 - 论文只给出了摘要，没有提供具体的任务列表、benchmark 成绩、模型名称或 rollout 数量等细节，因此无法评估 NPO 在哪些具体场景下优于 GEPA、差距有多大。 - “教师模型越强，NPO 优势越明显”这…