AI 模型可以证明地隐藏任意能力
来自 arXiv · 期号 2026-10-10
摘要
能力评估的前提是隐藏能力可以被诱导出来。这篇论文证明，在对抗条件下这个前提不成立。 作者构造了一种后门攻击：把加密的神经网络嵌入到宿主模型的权重里，只有收到秘密触发器才会解密并执行。这些隐藏电路在密码学假设下，即使拿到完整权重也极难被诱导或解读。 实验在 PyTorch 上实现，用微调、权重加噪、梯度搜索和潜在对抗训练来尝试诱导，结果全部失败。论文把这项工作定位为基于诱导的能力审计的极限。
来自 arXiv · 期号 2026-10-10
能力评估的前提是隐藏能力可以被诱导出来。这篇论文证明，在对抗条件下这个前提不成立。 作者构造了一种后门攻击：把加密的神经网络嵌入到宿主模型的权重里，只有收到秘密触发器才会解密并执行。这些隐藏电路在密码学假设下，即使拿到完整权重也极难被诱导或解读。 实验在 PyTorch 上实现，用微调、权重加噪、梯度搜索和潜在对抗训练来尝试诱导，结果全部失败。论文把这项工作定位为基于诱导的能力审计的极限。
本站只做摘要与索引，全部内容版权归原作者所有。