Circuits 更新：2024 年 6 月
来自 Transformer Circuits Thread · 期号 2024-06-28
摘要
Anthropic 可解释性团队发布了一份实验简报，对比了 TopK SAE、Gated SAE 与标准 SAE 的表现。 核心发现：在 L0（平均活跃特征数）与 MSE（均方误差）的权衡曲线上，TopK 和 Gated SAE 都显著优于标准 SAE，两者之间表现接近。TopK SAE 在相同 L0 下会产生更多高密度特征。初步检查显示，TopK SAE 的特征可解释性没有退化。 这些结果是对 Gao et al（OpenAI）和 Rajamanoharan et al（Google DeepMind）近期论文的复现验证。团队强调这些是初步实验，后续会有更完整的论文。