模型 · 第 2026-10-02 号

Cloudflare 开放 Clef:意图分类胜过 Jev,推理判断落后

Ollama v0.35.1 支持 Cloudflare 的开放决策模型 Clef(27B,Apache 2.0)与 Clef Flash(9B),并新增 /v1/systemone 接口:输入状态与带类型的问题,一次前向返回概率,不生成文字。与 9 月的 Jev 相比,Clef 在 BANKING77 与 CLINC150 上领先,在 ANLI 上落后,中位延迟 209 毫秒对 524 毫秒。同周 Liquid AI 也开放了 d1 决策模型。

Ollama Releases2026-10-02约 3 分钟读完值得跟踪

编辑标为信号级,适合持续跟踪。

推理与部署端侧 AI开放权重模型
本页目录11 节

记录

信号正文

#

发生了什么

Ollama 在 v0.35.1 中加入了对 Cloudflare 开放决策模型 Clef 与 Clef Flash 的支持。本站 9 月 21 日报道过 TypeSafe AI 的 Jev,它开创了「决策模型」这一类:输入文字,输出的不是文字,而是各个选项的概率。Clef 是这一类的第二个主要选手。数字来自 Ollama 的发布说明与模型库页面。

Clef 是什么

  • Clef:27B,从 Qwen3.8-27B 微调而来,支持文字与图片,模型文件 18 GB,Apache 2.0 许可
  • Clef Flash:9B,模型库页面没有写许可
  • 问题有三种类型:选择题(2 到 26 个选项)、是非题、打分题,全部在一次非自回归的前向里算完
  • 返回的「置信度」衡量的是概率有多集中,不是答案对不对的概率

Ollama 为它改了什么

  • 新增 /v1/systemone 接口,专门接收状态与问题、返回概率
  • 新增「决策」能力标记,客户端不会再把这类模型当成聊天、工具调用或思考模型来用
  • 同一版本里,联网搜索模型每次回答最多可搜 10 次,原来是 3 次

与 Jev 对比

依次为 Clef / Clef Flash / Jev:

  • BANKING77(意图分类):94.2 / 90.9 / 79.7
  • CLINC150(意图分类):97.4 / 66.8 / 89.3
  • ANLI(推理判断):69.8 / 59.1 / 74.8,Jev 领先
  • 中位延迟:209 / 39 / 524 毫秒

意图分类上 Clef 明显领先,推理判断上 Jev 仍更好,业务流程类任务两者大致持平。Clef Flash 很快,但在 CLINC150 上掉得很多。模型库页面关于上下文长度前后矛盾(256K 与 64K),以实际测试为准。

同一周的另一个:Liquid AI d1

10 月 7 日 Liquid AI 也开放了 d1 决策模型:基于 LFM2.5-VL-3B 的 d1-3B 支持文字与图片,在 Jetson Thor 上 16 毫秒、RTX 4090 上 8 毫秒;实验性的 d1-omni-600M 还能接音频。博客只写了「开放权重」,没有写许可。决策模型从一家变成了三家。

对读者意味着什么

  1. 路由、意图识别、审核、打分这类只需要选项而不需要文字的调用,可以用决策模型替换生成模型,延迟与成本都低得多。
  2. 三家各有长处:先用自己的分类数据比一次,不要只看厂商的表。
  3. 把置信度当作「模型有多确定」,不要当作「答案有多可能对」;需要校准时得自己做。

为什么是现在

为什么重要

#

决策模型从 Jev 一家变成了 Clef、d1 三家,Ollama 也为它们开了专用接口。智能体里大量「选哪个、是不是、打几分」的调用,可以从生成模型换成一次前向的概率输出。

背景

技术背景

#

普通语言模型逐个生成 token,决策模型只做一次前向,直接给出每个选项的概率,所以延迟低、输出可以直接解析。非自回归指不逐字生成。置信度是概率分布的集中程度,与准确率之间需要校准才能对应。

按你的水平解读

让 AI 按你的水平解读这个信号

选择你的经验水平,AI 会现场生成一份为这个水平定制的解读。

关注人群

谁该关注

#
在智能体里做路由、意图识别或审核的工程团队本地部署模型、用 Ollama 做推理的开发者需要低延迟分类与打分的端侧应用
可能影响的领域
推理成本智能体路由本地部署

下一步

学习路径

#
  1. 先读本站 9 月 21 日的 Jev 信号,了解决策模型这一类的来历
  2. 读《模型选型与约束匹配》,列出自己系统里只需要选项输出的调用
  3. 用 Ollama 拉取 clef 或 clef-flash,在自己的分类数据上和现有做法对比
  4. 读《API 契约与接口边界》,想清楚 /v1/systemone 这类新接口怎么接入现有服务

怎么学起

让 AI 生成一条学习路径

基于本页的相关知识和相关技能,AI 会现场生成一条从基础到应用的学习路径。

关系网络

在技术网络中的位置

#

当前技术与相邻技术、技能和背景知识的连接,点击节点可继续探索。

技术对比

对比另一项技术

选择另一项已发布技术,让 AI 现场生成一份相似点、差异点和适用场景的对比。

延伸思考

后续问题

#
  • 你的智能体里有多少调用其实只需要一个选项或一个分数?
  • Clef、Clef Flash 与 Jev 在你的数据上谁更准?延迟差多少?
  • 你会怎样把置信度校准成可用的准确率估计?

发布记录

收录于

#

收录这条信号的技术简报,新的在前;最后一行是它那一周的周回顾。标签是它在那一期所在的栏目。

来源参考

Ollama Releases

Cloudflare大型科技公司2026-10-02
打开原始来源https://github.com/ollama/ollama/releases/tag/v0.35.1