LiquidAI 发布开源边缘决策模型 d1

来自 Hugging Face · 期号 2026-10-08

摘要

LiquidAI 发布了两款开源决策模型 d1-3B 和 d1-omni-600M。 决策模型与生成式模型不同,它不逐 token 生成文本,而是单次前向传播直接输出答案,因此速度极快。d1-3B 在 NVIDIA Jetson AGX Thor 上回答一个问题只需 16 毫秒。 d1-3B 支持文本和图像输入,在 Decision Index 0.2.1 上得分 48.57,超过所有 4B 和 9B 模型。d1-omni-600M 是实验性版本,支持文本加图像或文本加音频,参数量仅 600M,在七项公开基准上平均得分 78.4,超过 Decider 2B(77.1)。 两款模型均采用 Apache 2.0 协议开源,可从 Hugging Face 下载。

深读

导读 LiquidAI 发布了两款开源的决策模型 d1-3B 和 d1-omni-600M。决策模型不逐 token 生成文本,而是单次前向传播直接输出答案,速度极快,适合边缘设备。读完可以了解这类模型在速度、多模态能力和基准测试上的具体表现,以及如何上手使用。 关键信息 - d1-3B 在 Decision Index 0.2.1 上得分 48.57,超过所有 4B 和 9B 模型,也超过 Decider 35B-A3B(47.11)。 - d1-3B 在 NVIDIA Jetson AGX Thor 上回答一个问题只需 16 毫秒,在 Jetson Orin Nano 上需 50 毫秒。 - d1-omni-600M 参数量仅 600M,在七项公开基准上平均得分 78.4,超过 Decider 2B(77.1)。 - 两款模型均采用 Apache 2.0 协议开源,可从 Hugging Face 下载。 逐节讲解 模型架构与训练基础 d1-3B 和 d1-omni-600M 都基于 LiquidAI 的 Liquid Foundation Models(LFMs)构建。与生成式模型不同,决策模型不产生 token,而是通过单次前向传播直接给出答案。d1-3B 基于 LFM2.5-VL-3B(一个 decoder-only 的视觉语言模型),支持文本和图像输入。d1-omni-600M 基于 LFM2.5-Encoder-350M(一个双向编码器),额外添加了视觉和音频编码器,支持文本加图像或文本加音频两种输入组合。d1-omni-600M 目前是早期研究版本,仍在开发中。 基准测试结果 团队在七个公开数据集上对两款模型进行了评测,涵盖阅读理解、毒性检测、意图分类、医学问答和跨语言理解。d1-3B 平均得分 82.9,高于 Decider 4B(81.1)。d1-omni-600M 平均得分 78.4,以四分之一参数量超过 Decider 2B(77.1)。具体来看,d1-3B 在 SQuAD 2.0 上得分 83.3,Civil Comments 上 93.3,MASSIVE intent 上 86.9,PubMedQA 上 68.3,BoolQ 上 86.3,XNLI 上 85.6,PAWS-X 上 76.4。团队验证了 d1-3B 保留了其骨干模型的视觉能力,但未报告视觉或音频基准测试结果,因为 Decision Index v0.3 仅包含私有视觉拆分,而音频决策基准目前仍是开放问题。 速度表现 团队与 NVIDIA 合作,在 NVIDIA GeForce RTX 4090、Jetson AGX Thor、Jetson AGX Orin 64 GB 和 Jetson Orin Nano 上评测了 d1-3B。边缘推理方面,d1-3B 在所有被测设备…

读原文

本站只做摘要与索引,全部内容版权归原作者所有。