为超级智能承保：押注你能起诉的 agent
来自 Latent Space · 期号 2026-09-17
摘要
AIUC 联合创始人 Rune Kvist 宣布完成 4000 万美元 A 轮融资，由 Ribbit Capital 和 First Harmonic 领投。 他的核心判断是：AI 落地的瓶颈已经不是能力，而是信任与风险。AIUC 为此制定了 AIUC-1 标准，覆盖 agent 的安全、可靠性与合规，客户包括 Cursor、Harvey、Lovable、ElevenLabs。 agent 的测试覆盖越狱攻击、幻觉和数据泄漏，但 Kvist 指出大多数公司只优化 happy path，很少认真做对抗性压力测试。 "如果一个月付 20 美元的 Cursor 订阅最终导致一架价值 2 亿美元的飞机坠毁，谁来负责？"——这个假设贯穿整场对话。 他还讨论了前沿实验室与政府之间正在扩大的信任缺口、AI 工程师是否需要分级认证、以及为什么实验室永远无法完全充当自己的 watchdog。 本期还涉及一个结构性问题：多个 watchdog 互相竞争时，如何防止标准被竞相拉低。
深读
导读 原文信息有限，以下基于节目简介。AIUC 联合创始人 Rune Kvist 在 Latent Space 节目中宣布完成 4000 万美元 A 轮融资，并阐述其核心判断：AI 落地的最大瓶颈已从能力转向信任与风险。本期节目深入讨论了 AIUC-1 标准、agent 安全测试、保险如何为 AI 系统提供信任基础，以及前沿实验室与政府之间日益扩大的信任缺口。 关键信息 - AIUC 完成 4000 万美元 A 轮融资，由 Ribbit Capital 和 First Harmonic 领投。 - AIUC-1 是 AIUC 制定的 agent 安全、可靠性与合规标准，客户包括 Cursor、Harvey、Lovable、ElevenLabs。 - agent 测试覆盖越狱攻击、幻觉和数据泄漏，但大多数公司只优化 happy path，很少做对抗性压力测试。 - 节目提出了一个贯穿始终的假设性问题：一个月付 20 美元的 Cursor 订阅是否可能导致一架价值 2 亿美元的飞机坠毁。 - 讨论涉及 Air Canada 聊天机器人案例，以及 AI 故障如何开始厘清法律责任。 - 节目还讨论了 AI 工程师是否需要分级认证（Level 1、2、3），以及前沿实验室永远无法完全充当自己的 watchdog。 逐节讲解 风险成为 AI 落地的瓶颈 Rune Kvist 指出，AI 采用的最大约束已不再是能力，而是风险。AIUC 在种子轮时就有这个假设，当时还只是推测，但现在已成为事实。节目将 Waymo 作为案例，说明 AI 能力与实际部署之间存在巨大差距。 AIUC-1 标准与 agent 测试 AIUC-1 是 AIUC 制定的 agent 安全、可靠性与合规标准。节目讨论了 agent 如何被测试：包括越狱攻击、幻觉和数据泄漏。Kvist 指出，大多数 AI 公司只优化 happy path（理想路径），很少认真做对抗性压力测试。由于 AI 技术迭代快，标准可能需要每季度更新一次，而不是每十年。 保险与信任基础设施 节目讨论了标准与保险如何共同演进，以及 Lloyd's of London 如何为 AI 系统提供保险以建立企业信任。一个核心问题是：当一个月付 20 美元的 Cursor 订阅导致 2 亿美元的事故时，谁来负责？Air Canada 聊天机器人案例被用作 AI 故障如何开始厘清法律责任的例子。版权被认为是 AI 最难保险的风险之一。 政府信任缺口与监管 节目讨论了前沿实验室与政府之间正在扩大的信任缺口，以及 AI 带来的网络安全、儿童安全和生物武器等风险。Kvist 认为，实验室永远无法完全充当自己的 watchdog，而 AGI 可能成为一个国家主权问题。节目还提出了一个「大空头」问题：如何防止相互竞争的 watchdog 将标准竞相降低。…