Cloudflare 开放 Clef:意图分类胜过 Jev,推理判断落后
Ollama v0.35.1 支持 Cloudflare 的开放决策模型 Clef(27B,Apache 2.0)与 Clef Flash(9B),并新增 /v1/systemone 接口:输入状态与带类型的问题,一次前向返回概率,不生成文字。与 9 月的 Jev 相比,Clef 在 BANKING77 与 CLINC150 上领先,在 ANLI 上落后,中位延迟 209 毫秒对 524 毫秒。同周 Liquid AI 也开放了 d1 决策模型。
编辑标为信号级,适合持续跟踪。
本页目录11 节
记录
信号正文
#发生了什么
Ollama 在 v0.35.1 中加入了对 Cloudflare 开放决策模型 Clef 与 Clef Flash 的支持。本站 9 月 21 日报道过 TypeSafe AI 的 Jev,它开创了「决策模型」这一类:输入文字,输出的不是文字,而是各个选项的概率。Clef 是这一类的第二个主要选手。数字来自 Ollama 的发布说明与模型库页面。
Clef 是什么
- Clef:27B,从 Qwen3.8-27B 微调而来,支持文字与图片,模型文件 18 GB,Apache 2.0 许可
- Clef Flash:9B,模型库页面没有写许可
- 问题有三种类型:选择题(2 到 26 个选项)、是非题、打分题,全部在一次非自回归的前向里算完
- 返回的「置信度」衡量的是概率有多集中,不是答案对不对的概率
Ollama 为它改了什么
- 新增
/v1/systemone接口,专门接收状态与问题、返回概率 - 新增「决策」能力标记,客户端不会再把这类模型当成聊天、工具调用或思考模型来用
- 同一版本里,联网搜索模型每次回答最多可搜 10 次,原来是 3 次
与 Jev 对比
依次为 Clef / Clef Flash / Jev:
- BANKING77(意图分类):94.2 / 90.9 / 79.7
- CLINC150(意图分类):97.4 / 66.8 / 89.3
- ANLI(推理判断):69.8 / 59.1 / 74.8,Jev 领先
- 中位延迟:209 / 39 / 524 毫秒
意图分类上 Clef 明显领先,推理判断上 Jev 仍更好,业务流程类任务两者大致持平。Clef Flash 很快,但在 CLINC150 上掉得很多。模型库页面关于上下文长度前后矛盾(256K 与 64K),以实际测试为准。
同一周的另一个:Liquid AI d1
10 月 7 日 Liquid AI 也开放了 d1 决策模型:基于 LFM2.5-VL-3B 的 d1-3B 支持文字与图片,在 Jetson Thor 上 16 毫秒、RTX 4090 上 8 毫秒;实验性的 d1-omni-600M 还能接音频。博客只写了「开放权重」,没有写许可。决策模型从一家变成了三家。
对读者意味着什么
- 路由、意图识别、审核、打分这类只需要选项而不需要文字的调用,可以用决策模型替换生成模型,延迟与成本都低得多。
- 三家各有长处:先用自己的分类数据比一次,不要只看厂商的表。
- 把置信度当作「模型有多确定」,不要当作「答案有多可能对」;需要校准时得自己做。
为什么是现在
为什么重要
#决策模型从 Jev 一家变成了 Clef、d1 三家,Ollama 也为它们开了专用接口。智能体里大量「选哪个、是不是、打几分」的调用,可以从生成模型换成一次前向的概率输出。
背景
技术背景
#普通语言模型逐个生成 token,决策模型只做一次前向,直接给出每个选项的概率,所以延迟低、输出可以直接解析。非自回归指不逐字生成。置信度是概率分布的集中程度,与准确率之间需要校准才能对应。
关注人群
谁该关注
#下一步
学习路径
#- 先读本站 9 月 21 日的 Jev 信号,了解决策模型这一类的来历
- 读《模型选型与约束匹配》,列出自己系统里只需要选项输出的调用
- 用 Ollama 拉取 clef 或 clef-flash,在自己的分类数据上和现有做法对比
- 读《API 契约与接口边界》,想清楚 /v1/systemone 这类新接口怎么接入现有服务
关系网络
在技术网络中的位置
#当前技术与相邻技术、技能和背景知识的连接,点击节点可继续探索。
延伸思考
后续问题
#- 你的智能体里有多少调用其实只需要一个选项或一个分数?
- Clef、Clef Flash 与 Jev 在你的数据上谁更准?延迟差多少?
- 你会怎样把置信度校准成可用的准确率估计?
发布记录
收录于
#收录这条信号的技术简报,新的在前;最后一行是它那一周的周回顾。标签是它在那一期所在的栏目。
来源参考