Jev:一种新型的决策模型
来自 Simon Willison · 期号 2026-09-22
摘要
TypeSafe AI 发布 Jev,一种新型的“决策模型”。它接受文本输入,但输出的是浮点数——对应分类、是否判断、评分及置信度。 Jev 只按输入 token 收费(每百万 token 0.042 美元),输出免费,比 GPT-5 Nano 还便宜。你可以一次性提交一个文档和多个问题,问题并行评估,耗时与单个问题相近。 Simon Willison 认为,Jev 适合一切可表达为分类任务的工作:垃圾检测、标签建议、排序。他也用它做搜索重排序——先用 BM25 粗筛 100 条,再让 Jev 按相关性打分。 但他也指出,Jev 让黑箱问题更严重了:你只得到一个浮点数,无法追问模型依据什么做出了判断。偏见问题因此更难排查。他试了让 Jev 给旧金山湾区城市打分“是不是好城市”,结果 Cupertino 最高,东帕罗奥图最低。 社区已经涌现出不少创意用法,包括用 Jev 玩 2048 游戏,以及基于开源模型复现 Jev 的项目(如 Kev)。
深读
导读 TypeSafe AI 上周发布了 Jev,一种全新的“决策模型”。它接受文本输入,但输出的是浮点数,对应分类、是否判断、评分及置信度。Jev 极快、极便宜,适合一切可表达为分类任务的工作,但也让 AI 的黑箱问题更加突出,偏见更难排查。 关键信息 - Jev 的输入价格为每百万 token 0.042 美元,输出免费,比 OpenAI GPT-5 Nano(每百万 token 0.05 美元)还便宜。 - Jev 支持三种问题类型:是否判断(Noul,即 Bernoulli 分布的缩写)、从给定选项中做选择、以及按描述范围给出浮点数评分。 - Jev API 可以一次性提交一个文档(“state”)和多个问题,问题并行评估,耗时与单个问题相近。 - Simon Willison 用 Jev 做搜索重排序:先用 BM25 粗筛 100 条,再让 Jev 按相关性打分。 - 社区已出现多个创意用法,包括 jevchat(用 Jev 逐符号生成回复)、jev-leftpad(用 Jev 实现左填充)、jev-2048(用 Jev 玩 2048 游戏)。 - 已有开源项目尝试复现 Jev 类模型,如 Kev 基于 Qwen 3.5 训练了 0.8B、4B 和 9B 三个版本。 逐节讲解 Jev 是什么:一种输出浮点数的 LLM TypeSafe AI 将 Jev 定义为“System One 模型”(Simon Willison 更倾向于“决策模型”)。与常规 LLM 不同,Jev 接受文本输入,但输出的是浮点数,对应分类、是否判断、评分及置信度。TypeSafe 的描述是:“将 Jev 视为一个前沿智能的函数调用:非结构化状态输入,类型化的概率决策输出。” Jev 只按输入 token 收费(每百万 token 0.042 美元),输出免费,比 GPT-5 Nano 还便宜。它支持三种问题类型:是否判断(Noul,即 Bernoulli 分布的缩写)、从给定选项中做选择(返回置信度及概率分布)、以及按描述范围给出浮点数评分。API 可以一次性提交一个文档和多个问题,问题并行评估,耗时与单个问题相近。 适用场景:分类任务与搜索重排序 Simon Willison 认为,Jev 适合一切可表达为分类任务的工作:垃圾检测、标签建议、排序。他本人用 Jev 做搜索重排序,先用 BM25 粗筛 100 条,再让 Jev 按相关性打分。 黑箱问题与偏见风险 Jev 让 AI 的黑箱问题更加严重。LLM 本身已是黑箱,但至少可以追问其推理过程;Jev 只返回一个浮点数,无法追问模型依据什么做出了判断。偏见问题因此更难排查。Simon 做了一个实验:让 Jev 给旧金山湾区城市打分“是不是好城市”,结果 Cupertino 最高,东帕罗奥图最低。他警告,千万不要用 Jev…