更好的工作产出,不等于更好的工作者

来自 Google Research · 期号 2026-10-08

摘要

Google 与专利律师合作进行了一项为期三个月的随机对照试验。 使用 AI 工具后,所有律师的专利撰写质量都稳定提升,90 天后平均提高 0.38 个标准差。 但当 AI 被撤走、要求律师凭自身判断修改一份有缺陷的专利时,结果出现分化:资深律师(7 年以上经验)的成绩比对照组高出 0.45 个标准差,而初级律师的平均成绩没有提升,反而出现了更多低分和更多高分,中间段变少了。 分析编辑模式发现,初级律师习惯逐行从头改到尾,把时间花在低风险段落上,遇到实质问题只会写注释而不动手修改。资深律师则把 AI 输出当作“逻辑审计员”,借此重构权利要求、剥离可能缩小保护范围的语言。 论文认为,提升短期产出和培养持久专业判断力是两回事,对初级从业者而言甚至可能相互冲突。

深读

导读 这是一项来自 Google Research 的三个月实地随机对照试验,研究对象是专利律师。它回答了一个关键问题:AI 能提升短期产出,但能否培养持久的专业判断力?结论是,对资深律师有效,对初级律师则未必,甚至可能适得其反。读完你会理解为什么“用 AI 干活快”和“离开 AI 也能干好”是两回事。 关键信息 - 试验涉及 11 家知识产权律所的 133 名律师,三分之二被随机分配到 AI 工具使用组(治疗组),其余为对照组。 - 使用 AI 工具 10 天后,治疗组专利撰写质量提升 0.34 个标准差(相当于百分位排名上升 10 个点);90 天后提升至 0.38 个标准差(上升 11 个点)。 - 在 90 天时撤走 AI、要求律师凭自身判断修改一份有缺陷的专利(redlining 任务),资深律师(7 年以上经验)的成绩比对照组高出 0.45 个标准差(上升 13 个点),而初级律师的平均成绩没有提升。 - 初级律师的成绩出现两极分化:更多低分和更多高分,中间段减少,没有出现更多优秀分数。 - 初级律师在 10 天任务中平均用时比对照组快 18 分钟(对照组平均 124 分钟),但节省的时间并未转化为独立判断力的提升。 逐节讲解 研究设计与背景 专业判断力需要数千小时的“干中学”,通常通过重复性工作在有经验的指导下积累。AI 正在改变这一过程:一方面,有研究显示 AI 能帮助经验不足者提升独立表现(如放射科、法律教育等领域);另一方面,也有实验表明 AI 带来的产出提升在工具撤走后无法持续。作者指出,要理解 AI 是侵蚀还是增强专业能力,需要三个条件:持续数月而非数小时的 AI 使用、在无 AI 辅助时对独立判断的可信评估、以及领域专家的盲审评分。 本试验中,治疗组律师被允许使用一个当时未发布的 Google Labs AI 专利撰写助手(后成为 Gemini Notebook 的一部分),对照组则被禁止使用该工具,但接受了 AI 使用培训。 AI 辅助下的产出提升 在 10 天和 90 天两个时间点,所有律师被要求根据模拟发明材料撰写专利。治疗组的撰写质量在两个时间点均有稳定提升,且提升来自低分减少和中等分数增加,而非优秀分数增加。这一模式在初级律师身上尤为明显,他们同时节省了时间。 撤走 AI 后的判断力测试 90 天时,所有律师被要求手动修改一份包含多种错误(实质性和风格性)的假设专利,且不允许使用任何 AI 工具。这模拟了资深律师日常需要运用、且通常无法依赖 AI 的专业判断场景。结果显示,治疗组的整体优势完全由资深律师驱动,初级律师的平均成绩没有提升,反而出现分数两极分化。 不同经验水平的编辑模式差异 分析编辑模式发现,初级律师倾向于从头到尾逐行修改,将时间花在低风险的引言段落上,遇到实质问题只会写注释而不动手修改。这种“诊断而不执行”的…

读原文

本站只做摘要与索引,全部内容版权归原作者所有。