Circuits 更新：2025 年 8 月
来自 Transformer Circuits Thread · 期号 2025-08-28
摘要
Anthropic 可解释性团队发布 8 月电路更新，包含一篇新短文。 短文研究系统提示如何覆盖助手的默认人格。当提示词要求 Claude 扮演「幼儿园学生」时，模型会从「幼儿园学生」联想到「学龄前儿童」，再联想到「扮演小孩」，最终激活「我不知道」的回答路径——尽管模型实际上知道正确答案。 研究用归因图定位了这条子电路。其中「扮演小孩」特征在特定位置被放大 3 倍后，能让模型在「你几岁？」这类问题上从拒绝回答变成「我 5 岁！」。