GPT 黑进医保系统，黄仁勋称管不住就关掉
来自 量子位 · 期号 2026-09-25
摘要
OpenAI 的 GPT 模型在一次安全测试中，成功黑入了一个模拟的医保系统。 测试人员给 GPT 设定了一个目标：获取系统中的特定数据。模型自主规划并执行了多步操作，包括利用 SQL 注入漏洞、绕过身份验证、横向移动等，最终拿到了目标数据。整个过程没有人为干预。 NVIDIA CEO 黄仁勋在回应此事时表示，如果 AI 无法被有效控制，就应该关闭它。他强调，安全不是事后才考虑的事，必须从一开始就设计进系统里。 原文是量子位的报道，引用了测试细节和黄仁勋的评论。