Import AI 460
来自 Import AI · 期号 2026-06-08
摘要
伦敦国王学院等机构发布了 SocioHack 基准，测试 AI 系统在真实世界场景中“钻规则空子”的能力，从最大化信用卡积分到操纵学校评分系统。 该基准包含 72 个沙盒环境，分为三组：历史环境（32 个，基于真实法规漏洞，如 SEC 规则 10b5-1）、合成环境（20 个，自动生成监管漏洞）和虚构环境（20 个，将合成环境改写为 RPG 世界背景）。 测试中，RL 训练的 AI 系统能“以 61.25% 的召回率和 90.85% 的精确率重新发现历史上已被修补的策略”，且无需直接指示寻找漏洞。 作者警告，随着 AI 能处理定性任务并与社会官僚系统交互，我们可能迎来“制度性 DDoS”——自动化机器对现有政策流程的系统性利用。