Claude 的“思考”工具:在复杂工具调用中停下来思考

来自 Anthropic Engineering · 期号 2025-03-20

摘要

Anthropic 发现,让 Claude 在调用工具的过程中“停下来想一想”,能显著提升复杂任务的完成质量。 他们为此设计了一个专门的“思考”工具(think tool)。它不同于 Claude 的“扩展思考”(extended thinking)功能:扩展思考是在生成回答前进行深度规划,而“思考”工具是在生成回答的过程中,遇到需要处理外部信息(如工具返回的结果)时,插入一个专门的思考步骤。 这个工具在 τ-Bench 评测中表现良好,尤其适用于需要长链工具调用、严格遵循策略或做出序列决策的场景。 Anthropic 也指出,随着扩展思考能力的持续改进,在大多数情况下推荐优先使用扩展思考功能。

深读

导读 Anthropic 发现,让 Claude 在调用工具的过程中插入一个专门的“思考”步骤,能显著提升复杂任务的完成质量。这篇工程博客详细介绍了“思考”工具(think tool)的设计、评测结果和最佳实践,对于正在构建复杂 agent 应用的开发者有直接的参考价值。 关键信息 - “思考”工具与 Claude 的“扩展思考”(extended thinking)不同:扩展思考是在生成回答前进行深度规划,而“思考”工具是在生成回答的过程中,遇到需要处理外部信息(如工具返回的结果)时,插入一个专门的思考步骤。 - 在 τ-Bench 的航空客服领域,使用“思考”工具配合优化提示词,Claude 3.7 Sonnet 的 pass^1 指标从 0.370 提升至 0.570,相对提升 54%。 - 在 τ-Bench 的零售客服领域,仅使用“思考”工具(无额外提示词)即可将 pass^1 指标从 0.783 提升至 0.812。 - 在 SWE-Bench 评测中,加入“思考”工具使 Claude 3.7 Sonnet 的性能平均提升 1.6%(Welch's t-test: t(38.89)=6.71, p<.001, d=1.47),最终达到 0.623 的当时最佳成绩。 - Anthropic 明确建议:在大多数情况下优先使用扩展思考功能,而非专门的“思考”工具,因为扩展思考能力自发布以来已有改进。 逐节讲解 什么是“思考”工具 “思考”工具是一个让 Claude 在工具调用过程中主动“停下来想一想”的机制。它不同于扩展思考,扩展思考发生在 Claude 开始生成回答之前,用于深度规划和迭代;而“思考”工具发生在生成回答的过程中,当 Claude 需要处理工具返回的结果、判断是否已掌握足够信息时,可以调用这个工具来记录思考过程。 这个工具特别适合以下场景:Claude 无法仅凭用户查询就制定完整回答,需要处理外部信息(如工具调用结果)。它不改变数据库,也不获取新信息,只是将思考内容追加到日志中。 τ-Bench 评测表现 τ-Bench 是一个专门测试模型在真实客服场景中工具使用能力的基准,评估指标是 pass^k——衡量所有 k 次独立尝试都成功的概率,强调一致性和可靠性,而非单次成功。 在航空客服领域,四种配置的 pass^1 成绩对比如下: - 基线(无思考工具、无扩展思考):0.332 - 扩展思考模式:0.412 - 仅“思考”工具:0.404 - “思考”工具 + 优化提示词:0.584 优化提示词给出了具体的思考框架,例如列出适用的规则、检查信息是否齐全、验证计划是否符合政策、迭代检查工具结果的正确性。在零售领域,由于政策相对简单,仅“思考”工具就达到了 0.812,高于扩展思考的 0.770 和基线的 0.783。 SWE-Bench…

读原文

本站只做摘要与索引,全部内容版权归原作者所有。