2023-03-16 这一期

这一期没有导语。

本期收录

• Transformer 残差流中的特权基 (2023-03-16 · Transformer Circuits Thread)
  残差流坐标本应无特殊意义，但实际出现极端离群值；Adam 优化器被初步认定为原因。