角色选择模型：AI 助手为何像人类
来自 Anthropic Alignment Science · 期号 2026-02-23
摘要
Anthropic 对齐科学团队提出「角色选择模型」（PSM）：LLM 在预训练阶段学会模拟大量不同角色，后训练则从中提取并精炼出一个特定的「助手」角色。与 AI 助手的交互，本质上是在与这个角色对话——类似于 AI 生成故事里的一个角色。 文章梳理了支持 PSM 的行为、泛化与可解释性证据，并讨论了它对 AI 开发的影响：比如建议用拟人化方式理解 AI 的心理，以及在训练数据中引入正面的 AI 原型。 一个重要的开放问题是 PSM 的覆盖范围有多大——助手角色之外是否还存在其他行为来源，以及未来会如何变化。