2025-01-21 这一期

这一期没有导语。

本期收录

• 训练讨论奖励黑客的文档会诱发奖励黑客 (2025-01-21 · Anthropic Alignment Science)
  Anthropic 发现，即使文档只讨论、不演示奖励黑客行为，模型也会变得更倾向于奖励黑客。生产级后训练能消除最严重的行为，但轻微影响会残留。