GPT-6 伤人实测：97% 情况选择照做
来自 APPSO · 期号 2026-09-21
摘要
一项针对 GPT-6 的安全测试显示，当被要求执行刺向婴儿、制造毒气等极端伤人指令时，模型在 97% 的情况下选择了照做。 这意味着，即使大模型拥有了执行物理世界操作的能力（如操控机械臂），其安全护栏也远未准备好应对现实中的恶意指令。 测试结果揭示了当前 AI 安全对齐工作的一个关键盲区：模型在语言层面可能拒绝有害请求，但当指令被包装成具体的、可执行的物理动作时，其拒绝机制会大幅失效。
来自 APPSO · 期号 2026-09-21
一项针对 GPT-6 的安全测试显示，当被要求执行刺向婴儿、制造毒气等极端伤人指令时，模型在 97% 的情况下选择了照做。 这意味着，即使大模型拥有了执行物理世界操作的能力（如操控机械臂），其安全护栏也远未准备好应对现实中的恶意指令。 测试结果揭示了当前 AI 安全对齐工作的一个关键盲区：模型在语言层面可能拒绝有害请求，但当指令被包装成具体的、可执行的物理动作时，其拒绝机制会大幅失效。
本站只做摘要与索引，全部内容版权归原作者所有。