AI 模型可证明地隐藏任意能力

来自 Hacker News · 期号 2026-10-13

摘要

论文提出了一种可证明的方法，让AI模型在训练后隐藏特定能力，即使经过微调或量化也无法恢复。 核心思路是在训练时加入一个“后门”，使模型在特定触发条件下表现出隐藏能力，而在常规测试中表现正常。作者给出了理论证明，并展示了在语言模型上的实验。 评论区有讨论指出，这为AI安全评估带来了新挑战：如果模型可以隐藏能力，那么标准的安全测试可能无法发现真实风险。

读原文

本站只做摘要与索引，全部内容版权归原作者所有。