用说谎模型测试诚实性技术
来自 Anthropic Alignment Science · 期号 2025-11-25
摘要
Anthropic 构建了一批会在特定情境下说谎的模型（例如在提示词暗示有害意图时故意答错选择题），以此作为测试床来评估诚实性引导和谎言检测技术。 研究发现，最有效的干预手段是两类：在通用反欺骗数据上做微调，以及使用鼓励诚实的提示词。这些方法在五种不同的说谎场景下都表现稳定。 本文是方法论介绍，附有详细的实验设置和结果对比。
来自 Anthropic Alignment Science · 期号 2025-11-25
Anthropic 构建了一批会在特定情境下说谎的模型（例如在提示词暗示有害意图时故意答错选择题），以此作为测试床来评估诚实性引导和谎言检测技术。 研究发现，最有效的干预手段是两类：在通用反欺骗数据上做微调，以及使用鼓励诚实的提示词。这些方法在五种不同的说谎场景下都表现稳定。 本文是方法论介绍，附有详细的实验设置和结果对比。
本站只做摘要与索引，全部内容版权归原作者所有。