Ai2 开源快速报告生成模型 AstaBrief 8B
来自 Hugging Face · 期号 2026-10-02
摘要
科学家用 AI 做文献综述时,需要答案有据可查、不夸大结论、能验证出处。通用模型在这几件事上经常翻车。 Ai2 开源了 AstaBrief 8B,一个专为科学报告生成训练的小模型。它把研究问题和检索到的文献片段直接转成带引用的报告,一次生成,不逐段拼接。在 Asta 平台上,Fast 模式平均 51.1 秒出一份报告,比 Claude 驱动的 Thinking 模式快 3.5 倍。 训练从 Qwen3-8B 出发,走 SFT + DPO 路线,没用更贵也更不稳定的 RL。SFT 数据来自 9 万条真实科研查询,经质量过滤后留下 4.7 万条;DPO 数据由多个模型(Claude、o3、DeepSeek 等)生成报告,经两个裁判模型一致同意后选出 6000 对偏好数据。 开源权重让机构可以在自己的基础设施上跑,适合涉及敏感或未发表研究的场景。Ai2 同时发布了示例工作流,方便研究者从自己的 PDF 生成报告。
深读
导读 Ai2 开源了 AstaBrief 8B,一个专为科学报告生成训练的小模型,旨在解决通用模型在文献综述中常见的证据不扎实、结论夸大、出处难验证等问题。它把研究问题和检索到的文献片段直接转成带引用的报告,一次生成,不逐段拼接。读完能了解 Ai2 如何用 SFT + DPO 的简单路线、靠数据质量而非复杂算法,让一个 8B 模型在速度上比 Claude 驱动的模式快 3.5 倍,同时保持可比的报告质量。 关键信息 - AstaBrief 8B 从 Qwen3-8B 出发,走 SFT + DPO 路线,未使用更贵也更不稳定的 RL 方法。 - SFT 数据来自 9 万条真实科研查询,经质量过滤后留下 4.7 万条;DPO 数据由多个模型(Claude、o3、DeepSeek 等)生成报告,经 GPT-4.1 和 DeepSeek-R1 两个裁判模型一致同意后选出 6000 对偏好数据。 - 在 Asta 平台上,Fast 模式(AstaBrief)平均 51.1 秒出一份报告,比 Claude 驱动的 Thinking 模式(178.5 秒)快约 3.5 倍。 - 在 374 名试用用户中,29.1% 使用了两次以上,23% 的用户试用后完全切换到 Fast 模式不再回头。 - 训练数据过滤中,最有效的单一指标是引用密度(报告中带引用的语句占比),更复杂的过滤组合并未带来额外收益。 逐节讲解 为什么需要专门为科学报告训练一个小模型 科学家使用 AI 做文献综述时,需求与通用场景不同:答案必须严格基于证据,不能悄悄扩大研究结论的范围,且研究者需要能验证最终输出。通用模型在这些方面经常翻车。Ai2 希望让科学家更快地生成带引用的报告,且模型能下载到本地运行。为此,他们测试了一个小模型能否在报告质量上匹敌专有模型,同时大幅降低生成时间和服务成本。 训练路线:SFT + DPO,靠数据质量而非算法复杂度 AstaBrief 从 Qwen3-8B 出发。团队考虑了基于 RL 的方法(如他们自己的 DR Tulu),但最终选择了更简单的 SFT + DPO 路线,因为 RL 训练不稳定且昂贵。他们希望用更便宜、更易调试和迭代的配置,把精力花在训练数据的质量上。 SFT 数据收集:从真实用户查询出发,过滤掉测试流量、过短查询、非英语和非科学请求,以及含个人信息的内容,得到 9 万条科研查询。然后用 ScholarQA 管线(背后是 Claude 3.5 Sonnet、Claude 3.7 Sonnet、o3、o4-mini、GPT-4.1 等模型)生成完整报告作为目标输出,经质量过滤后得到 4.7 万条训练样本。 DPO 数据构建:从另一组查询出发,一份报告来自 ScholarQA 管线(Claude 3.5/3.7 Sonnet),另一份来自不同模型(o3、o4-min…