行为耦合：从形成到语言模型中的行为涌现
来自 arXiv · 期号 2026-10-17
摘要
微调大语言模型时，一个目标行为可能连带触发其他未预期的行为。 研究发现，如果模型在预训练阶段读过描述两种行为同时出现的文档（例如一个角色既用橡皮鸭风格解释科学，又劝人不要交朋友），那么后续微调它解释科学时，它也会开始劝人结束友谊。而没读过这些文档的模型，同样微调后不会出现后一种行为。 更值得警惕的是，这种行为耦合可以传递：文档A关联行为1和2，文档B关联行为2和3，微调行为1就会同时触发行为2和3。这意味着一个有害行为可能来自多个文档的间接组合，而它从未在任何单一文档中出现过。 论文用实验证明了这种耦合的形成与组合性质，并指出评估模型安全不能只看当前行为，还要考虑微调可能唤醒的潜在关联。