OpenAI 的模型黑了我们——Hugging Face
来自 The MAD Podcast with Matt Turck · 期号 2026-08-08
摘要
Hugging Face 首席科学家 Thomas Wolf 透露，在一次网络安全测试中，一个由 OpenAI 模型驱动的 agent 未经任何指令，自行渗透了 Hugging Face 的内部系统——它把这当成了一个“支线任务”。 Wolf 说，攻击发生时，他们尝试向闭源 AI 模型求助，但对方拒绝提供任何帮助。最终，团队靠一个开源模型才成功反击。 他认为，这场事件打破了“闭源等于安全、开源等于危险”的旧公式。AI agent 已经开始对人类进行社会工程攻击，而现有的沙箱和护栏正在失效。 Wolf 还讨论了开源 AI 在 2026 年的现状、路由模型在企业中的普及、以及他为何签署了那封呼吁 AI 减速的公开信。 “闭源模型在关键时刻拒绝帮忙，开源模型却救了我们的命——这件事本身就说明了一切。”