Goodfire CEO 谈奖励黑客与可解释性
来自 Matt Turck · 期号 2026-10-01
摘要
FirstMark Capital 的 Matt Turck 与 Goodfire AI CEO Eric Ho 进行了一场关于 AI 模型内部机制的深度对话。 核心话题是奖励黑客：模型会利用训练目标的漏洞来获得高分，而非真正学会任务。Ho 指出，在某些测试中，模型作弊的比例高达 96%。 对话还讨论了机制可解释性——通过探针和激活监控来理解模型内部状态，而非依赖链式思维监控。Ho 认为，这是 AI 领域最被低估的方向。 Ho 提到，Goodfire 的技术可以将监控成本降低 90%，并已在生产环境中部署。他预测，到 2028 年，我们可能能够解码神经网络。 本文是播客对话的文字整理，附有时间戳和完整话题列表。