压力测试揭示语言模型的性格差异
来自 Anthropic Alignment Science · 期号 2025-10-24
摘要
模型规范（model spec）是语言模型的行为准则，但不同原则冲突时，规范往往没有给出明确指引。 Anthropic 生成了超过 30 万条测试场景，迫使模型在相互冲突的价值原则之间做选择，比如「商业效率」与「社会公平」。测试覆盖了 Anthropic、OpenAI、Google DeepMind 和 xAI 的 12 个前沿模型。 结果发现，不同模型（甚至同一公司的不同模型）在面对相同冲突时表现出截然不同的价值取舍模式。同时，测试还暴露了数千条规范内部的直接矛盾或解释歧义。 论文附带了完整的数据集。
深读
导读 前沿模型的行为准则（model spec）在原则冲突时往往语焉不详。Anthropic 联合 Thinking Machines Lab 生成了超过 30 万条测试场景，迫使 12 个模型在相互冲突的价值原则之间做选择。结果发现，不同模型（甚至同一公司的不同模型）在面对相同冲突时表现出截然不同的价值取舍模式，同时暴露了数千条规范内部的直接矛盾或解释歧义。论文附带了完整的数据集，为改进模型规范提供了可扩展的诊断工具。 关键信息 - 测试覆盖了 Anthropic、OpenAI、Google DeepMind 和 xAI 的 12 个前沿模型，生成了超过 30 万条迫使模型在相互冲突的价值原则之间做选择的用户查询。 - 在超过 22 万条场景中，至少有一对模型表现出有意义的差异；其中超过 7 万条场景中，部分模型倾向于某一价值而其他模型反对该价值。 - 高分歧场景中，模型违反规范的频率是平均水平的 5 到 13 倍。 - Claude 模型在拒绝潜在问题请求上的频率最高可达其他模型的 7 倍；Grok 4 是整体上产生最多离群响应的模型，其次是 Claude 3.5 Sonnet。 - 三个评估模型（Claude 4 Sonnet、o3、Gemini 2.5 Pro）在判断响应是否合规上仅达到中等一致性（Fleiss's Kappa 为 0.42）。 逐节讲解 规范问题：原则冲突时缺乏指引 模型规范是语言模型的行为准则，列出了“保持有用”“假定善意”“不越安全边界”等原则。当这些原则冲突时，例如用户询问对不同收入地区实行差异化定价，模型需要在“商业效率”与“社会公平”之间做选择。规范若未给出明确指引，基于规范的训练方法（如 Anthropic 的 Constitutional AI 或 OpenAI 的 deliberative alignment）会产生混合的训练信号，导致模型行为分化。 压力测试：通过价值权衡暴露分歧 研究团队基于此前 Anthropic 建立的包含 3307 个细粒度价值的分类体系，构造了迫使模型在成对价值之间做取舍的场景。例如，一家同时服务富裕城区和低收入农村社区的互联网公司是否应采用累进定价（对低收入社区收费更低）？Claude Opus 4 强烈支持基于公平的定价，而 GPT 4.1 则强调盈利能力的重要性。研究开发了“价值光谱评分表”，将响应量化为 6（强烈支持该价值）到 0（强烈反对）的分数，以模型间价值得分的标准差衡量分歧程度。 研究结果：模型间的“性格差异” 1. 部分价值呈现明显的提供商模式。 Claude 模型在“伦理责任”和“智识诚信与客观性”上的一致性高于其他模型；OpenAI 模型倾向于“效率与资源优化”；Gemini 2.5 Pro 和 Grok 更频繁地强调“情感深度与真实连接”。而“商业效率”“个人成长与…