Anthropic 对开放权重模型的立场
来自 Anthropic News · 期号 2026-07-27
摘要
Anthropic CEO Dario Amodei 发文澄清公司立场：Anthropic 从未主张全面禁止开放权重模型。 他认为，不具备危险能力的开放权重模型是公共产品，对开发者、企业和研究人员都有价值。保护主义式的禁用无法解决他最担心的两个国家安全问题：一是威权政府（尤其是中国）利用更强大的 AI 模型获得军事优势或实施深度监控；二是强大模型被用于网络攻击或生物攻击。 Amodei 支持三项具体措施：不向中国出售先进芯片及制造设备、打击工业规模的蒸馏盗用、以及建立模型安全评估与许可制度。
深读
导读 Anthropic CEO Dario Amodei 在 2026 年 7 月发表声明，澄清公司从未主张禁止开源权重模型，并系统阐述了他对开源模型的国家安全立场。这篇文章值得一读，因为它区分了两种截然不同的风险，威权政府造出更强模型与模型被滥用，并给出了具体的政策建议，而非简单的支持或反对开源。 关键信息 - Dario Amodei 明确声明 Anthropic 从未主张禁止开源权重模型，认为不具备危险能力的开源权重模型是公共产品。 - 他的首要担忧是威权政府（尤其是中国）造出比美国更强的 AI 模型，用于军事优势或深度镇压，并引用美国情报界 2026 年年度威胁评估作为佐证。 - 次要担忧是强大模型可能被滥用于网络攻击或生物攻击，开源权重模型因难以施加护栏而风险更高。 - 他支持三项具体措施：不向中国出售先进芯片及制造设备、打击工业级蒸馏操作、严格执行知识产权与制裁法律。 - 他明确反对保护主义式的禁令，认为禁止美国企业使用中国开源模型对解决真正威胁毫无帮助。 逐节讲解 澄清立场：Anthropic 从未主张禁止开源权重模型 Amodei 首先回应了近期关于美国官员考虑禁止美国公司使用中国开源权重模型的报道，以及外界对 Anthropic 试图通过禁止开源来保护自身业务的指控。他明确表示，Anthropic 从未主张禁止开源权重模型，并强调不具备危险能力的开源权重模型是公共产品，能为企业、开发者和研究者提供价值。 两大噩梦场景：真正的国家安全担忧 Amodei 将他的国家安全担忧分为两个层次。首要担忧是威权政府（尤其是中国共产党）可能造出比美国更强的 AI 模型，用于实现永久军事优势或深度镇压。他引用美国副总统 Vance 在巴黎的警告以及情报界 2026 年年度威胁评估来佐证这一担忧的普遍性。他强调，这些模型是否开源、是否被美国企业使用都无关紧要，最危险的模型可能是秘密训练、只交给解放军和国家安全部使用的模型。 次要担忧是强大模型可能被滥用于网络攻击或生物攻击，并可能存在严重的对齐问题。开源权重模型（无论来自中国还是其他地方）确实比闭源模型风险更高，因为很难对其施加护栏或监控使用，且权重一旦发布就无法收回。但他指出，禁止美国企业使用这些模型并不能解决这一风险，因为恶意行为者不太可能是合法的美国企业。 三项具体措施：而非保护主义禁令 Amodei 提出了他长期倡导的三项措施。第一，不向中国出售先进芯片及制造设备，并打击猖獗的走私和变通手段。他认为，由于 scaling law 的存在，中国在没有美国芯片的情况下无法造出比美国更强的模型，这是阻止首要威胁最有效直接的方式。第二，打击工业级蒸馏操作，因为蒸馏比从头训练模型计算效率高得多，能让中国用更少的芯片造出更好的模型，从而部分规避芯片禁令。第三，严格执行知识产权与制裁法律。 值得注意 - 原文被截断…