模型 · 第 2026-09-21 号

Jev:只输出概率、不输出文字的决策模型

TypeSafe AI 发布 Jev,自称 System One 模型:输入文本或半结构化的「状态」,不生成文字,只对是否题、选择题、评分题返回带置信度的数字。只按输入计费、输出免费,每百万输入 token 0.042 美元。它适合一切能写成分类的任务,包括检索重排;代价是连「解释一下」都没有,只剩一个浮点数。厂商的「快 194 倍、便宜 445 倍」来自自制评测,它自己承认处在收益高端。

Simon Willison Blog2026-09-21约 5 分钟读完值得跟踪

编辑标为重要,发布已满 30 天,从立即关注降到这一档。

产品策略检索价格与成本
本页目录12 节

记录

信号正文

#

它是什么

TypeSafe AI 在 9 月 15 日发布 Jev,把它叫作 System One 模型;Simon Willison 和 Maggie Appleton 更愿意叫它「决策模型」。它仍然接收文本输入,但不生成文字,只对问题返回数字。你把一篇文章、一个客户、一条记录组织成一个「状态」对象,连同一个或多个问题一起发过去,每个问题返回一个结果。

问题只有三种:

  1. 是否题:给出一个陈述,返回 0 到 1 之间它为真的置信度。内部叫 Noul,CEO 在 Hacker News 上确认取自伯努利分布。
  2. 选择题:从给定选项里选一个,返回置信度和所有选项上的概率分布。
  3. 评分题:给出一组带描述的数值刻度,返回刻度上的一个浮点分。

多个问题并行求值,所以一次问十个和问一个耗时相近。

价格和它的口径

只按输入计费,输出免费,首个模型每百万输入 token 0.042 美元,比 GPT-5 Nano 的 0.05 美元还便宜。据 InfoQ 转述官方数据,单次调用延迟约 70 到 500 毫秒。

那组流传最广的数字——比前沿模型快约 194 倍、便宜约 445 倍——来自公司自己设计的四套工作流评测,参考标签由 GPT-6 Astra 与 Claude Fable 5.1 在高推理档下的回答平均生成。官方自己承认这些数字处在现实收益的高端,评测由内部人员制作,可能有偏差。

它适合什么,不适合什么

凡是能写成分类的任务都适合:垃圾过滤、打标签、优先级、排序。Willison 在试的是检索重排——先用 BM25 这类便宜的算法取回 100 条,再让 Jev 按原始查询给这 100 条逐一打相关分。Theo Browne 的概括更形象:一个聪明的 if 或 switch 语句。

官方的能力边界文档写明,它目前不擅长数字、日期和对抗性内容。它改变的是语义判断的成本、延迟和输出形式,没有因此获得复杂推理能力;创始人自己的说法是「为软件而生,不为上帝而生」。

黑箱又回来了

这是 Willison 最不舒服的地方。大模型本来就是黑箱,但至少还能被要求解释——解释未必准确。Jev 连这个也没有:输入再多,出来的只有一个浮点数。它把一封邮件判成垃圾邮件时,是哪些信号起了作用?

他做了一个小实验:让 Jev 给旧金山湾区每座城市回答「这是好城市吗」,库比蒂诺排第一,东帕洛阿尔托排最后。偏见会藏在那个数字里,而把它拆开很难,所以他特别不希望有人拿它给求职者排序。结论是:评测和结构化实验比普通大模型项目更重要——好在它便宜到跑几千条实验只要几美分。

热度,和一条值得同放的异议

据 InfoQ,上线 24 小时内 Vercel AI Gateway 上近 13% 的付费团队用上了它;社区已经有用 Qwen 3.5 复刻的 Kev(0.8B、4B、9B 三档),以及一个专门比较这类模型的 JevBench。

Redis 作者 antirez 的异议值得放在旁边:它或许有一些很窄的场景,但围绕它的热度,恰好说明很多人分不清什么重要、什么不重要。真正要回答的问题是:这是一类新模型,还是把多年的分类技术换成了一个更快、更好用、也更擅长传播的接口?

和这个站的关系

本站 7 月收录的 LFM2.5-Encoders 讲的是同一件事的另一端:有一整类生产负载,输出是标签,不是句子。那一条是在本机跑的小编码器,这一条是托管 API 上的通用判断。两者都在说,用生成式大模型去做一个三选一,常常是形状不对,而不只是贵。

为什么是现在

为什么重要

#

大量生产里的模型调用其实是在做判断——这是不是垃圾、该交给谁、先处理哪条——却用生成式模型逐 token 写出 JSON。Jev 把这类判断做成了只返回概率的专用接口,价格和延迟都掉了一两个数量级;同时它把「为什么」彻底拿掉了,这让评测从可选变成了必需。

背景

技术背景

#

「System One」取自卡尼曼的快思考与慢思考:快速、直觉式的判断对应系统一,缓慢审慎的推理对应系统二。技术上,生成式模型做分类时要逐个 token 写出字段名、标点和解释;只输出预定义选项上的概率,可以省掉解码、并行求值多个问题,这是它在速度和成本上占优的主要来源。

按你的水平解读

让 AI 按你的水平解读这个信号

选择你的经验水平,AI 会现场生成一份为这个水平定制的解读。

关注人群

谁该关注

#
在服务端流程里用大模型做分类、路由、打分的后端工程师负责检索与排序质量、在考虑重排方案的搜索工程师需要为自动化决策的偏见与可审计性负责的团队
可能影响的领域
分类与路由检索重排模型选型

下一步

学习路径

#
  1. 先读《模型选型与约束匹配》:有一类任务大模型是形状不对,而不只是贵
  2. 把你流程里所有「让大模型输出一个选项」的调用列出来,数一数有多少
  3. 挑其中一个,用一小批有标注的样本量它的准确率与置信度校准
  4. 读《评估闭环》:输出只剩一个数字时,唯一能发现偏见的办法是结构化实验
  5. 把它与本站的 LFM2.5-Encoders 并排读:本机小编码器与托管判断接口,各自的取舍

怎么学起

让 AI 生成一条学习路径

基于本页的相关知识和相关技能,AI 会现场生成一条从基础到应用的学习路径。

关系网络

在技术网络中的位置

#

当前技术与相邻技术、技能和背景知识的连接,点击节点可继续探索。

技术对比

对比另一项技术

选择另一项已发布技术,让 AI 现场生成一份相似点、差异点和适用场景的对比。

延伸思考

后续问题

#
  • 你的流程里有多少次大模型调用其实只是在做一个多选一?
  • 一个只返回概率的模型出错时,你用什么办法发现它错在哪里?
  • 厂商自制评测的参考标签由另两个模型生成,这样的评测能说明什么、不能说明什么?

发布记录

收录于

#

收录这条信号的技术简报,新的在前;最后一行是它那一周的周回顾。标签是它在那一期所在的栏目。

来源参考

Simon Willison Blog

TypeSafe AI创业公司2026-09-21
打开原始来源https://simonwillison.net/2026/Sep/21/jev/