Garçon
来自 Transformer Circuits Thread · 期号 2021-12-22
摘要
Anthropic 开发了 Garçon 工具，用于在无法单卡运行的大模型上做可解释性研究。 研究者可以启动一个模型服务器，从 notebook 或脚本连接上去，通过 hooks 接口访问和修改模型内部激活值。这让他们能灵活地做实验，比如修改或消融某个组件。 Garçon 的设计初衷是把可解释性工作从单卡扩展到 Anthropic 训练的最大模型上。
来自 Transformer Circuits Thread · 期号 2021-12-22
Anthropic 开发了 Garçon 工具，用于在无法单卡运行的大模型上做可解释性研究。 研究者可以启动一个模型服务器，从 notebook 或脚本连接上去，通过 hooks 接口访问和修改模型内部激活值。这让他们能灵活地做实验，比如修改或消融某个组件。 Garçon 的设计初衷是把可解释性工作从单卡扩展到 Anthropic 训练的最大模型上。
本站只做摘要与索引，全部内容版权归原作者所有。