Google DeepMind 与新加坡政府合作微调诈骗
来自 Google DeepMind · 期号 2026-10-14
摘要
新加坡的诈骗案占报案数一半以上，2019 年以来损失超 40 亿新元，其中 80% 来自社交工程。 Google DeepMind 与新加坡政府科技局合作，微调了一个轻量级 Gemma 模型，直接在手机上检测诈骗对话。模型分两阶段运行：先用低功耗分类器初筛，再对可疑对话做深度分析。 所有处理都在设备端完成，政府和 Google 都无法访问用户对话。训练数据来自诈骗报告和情报源，不含个人身份信息，微调在政府管理的 GCP 环境内进行。 模型检测到操纵性对话模式时，会在用户设备上实时弹出警告，建议暂停操作。
深读
导读 新加坡诈骗案占报案数一半以上，2019 年以来损失超 40 亿新元，其中 80% 来自社交工程。Google DeepMind 与新加坡政府科技局合作，微调了一个轻量级 Gemma 模型，直接在手机上检测诈骗对话，所有处理在设备端完成，政府和 Google 都无法访问用户对话。读完能了解这套方案的技术架构、隐私保护设计和治理框架。 关键信息 - 新加坡 2019 年以来诈骗损失超过 40 亿新元，社交工程类诈骗占全部损失的 80%。 - 模型采用两阶段流水线：第一阶段用低功耗分类器初筛，第二阶段用微调后的 Gemma 模型对可疑对话做深度分析。 - 训练数据来自诈骗报告和情报源，严格排除个人身份信息，微调在政府管理的 GCP 环境（Sovereign Sandbox）内完成。 - 该合作在 2026 年新加坡国际网络周（SICW 2026）上公布，为消息平台在用户保护与端到端加密之间提供了一种参考方案。 逐节讲解 背景：新加坡的诈骗危机 文章开篇指出，诈骗（投资欺诈、虚假招聘、冒充公职人员等）已占新加坡报案数的一半以上，2019 年以来累计损失超过 40 亿新元。诈骗手法从简单的钓鱼攻击转向复杂的社交工程，攻击者通过令人信服的对话操纵受害者，这类诈骗现在占全部损失的 80%。这是 Google DeepMind 与新加坡政府科技局（GovTech Singapore）合作的直接动因。 方案：设备端 AI 检测，不牺牲隐私 通用模型难以识别本地化的诈骗手法。为此，团队微调了 Google 的轻量级 Gemma 模型，训练数据涵盖冒充公共机构、银行、本地人物的对话，以及区域性的新型骗局。与传统依赖云端扫描消息的威胁检测不同，该模型直接在设备端处理对话数据，实现更快分析。模型部署需要用户同意，且完全在设备端运行，新加坡政府和 Google 都无法访问用户对话。 技术细节：两阶段流水线与严格治理 模型检测到操纵性对话模式时，会在用户设备上实时弹出警告，建议暂停操作。为兼顾电池效率，采用两阶段流水线：第一阶段用低功耗分类器初筛，第二阶段用微调后的 Gemma 模型做上下文深度分析，确认威胁或排除误报。开发过程遵循严格治理：微调在 GovTech 管理的 GCP 环境（Sovereign Sandbox）内进行，训练数据不包含公民个人信息，模型还经过了合成对话和本地语料库的压力测试。 值得注意 文章是 Google DeepMind 的官方博客，属于项目宣发性质，没有披露模型的具体参数量、benchmark 成绩、误报率或电池消耗数据。两阶段流水线中第一阶段分类器的具体模型和第二阶段 Gemma 的微调细节（如训练数据规模、微调方法）也未展开。这些信息对评估方案的实际可用性至关重要。