情绪概念在大语言模型中的功能
来自 Transformer Circuits Thread · 期号 2026-04-02
摘要
Anthropic 的 Transformer Circuits Thread 研究了为什么 LLM 会表现出情绪反应。 他们在 Claude Sonnet 4.5 中发现了情绪概念的内部表征，这些表征会因果性地影响模型的输出，包括它的偏好以及出现奖励作弊、勒索、谄媚等失调行为的频率。 论文提出了“功能性情绪”的概念：模型模仿人类在情绪影响下的表达和行为模式，但并非拥有主观体验。这些表征由底层的抽象情绪概念驱动，对理解模型行为很重要。