产品判断
AI 工具链选型与自建边界评估
在「自己搭一套」和「买现成的」之间划线:先判断哪一层工作是你必须拥有的,再比价格——顺序反过来就会买错。
本页目录5 节
阅读顺序
先读这些
#这项技能能帮你做什么
#当模型这一层的价差被抹平(供应商按同样的 API 费率计费),采购决策就不再是比单价,而是划分系统边界。
可操作的做法是把一个具体任务拆成两栏:
- 模型调用:提示词、上下文组装、模型选择、输出解析。
- 外壳(harness):任务上下文的接入(工单、diff、仓库)、可执行命令的白名单、组织策略与权限、日志与评测、用量与计费控制。
然后逐项问:这一项如果自己做,是不是我的竞争力?如果答案是否,它就是集成成本,而集成成本几乎总是被低估——它不随模型能力提升而变便宜。
三个常见的判断失误:
- 只比 token 单价。 价格是结论不是前提;外壳的年化人力成本通常远大于 token 支出。
- 低估控制面。 命令白名单、组织策略、审计这类要求往往是合规硬约束,自建方案要从零补齐。
- 忽略迁移成本。 自建外壳如果和某个供应商的接口耦合,换模型时的迁移成本要提前算进来。
这项能力和「模型选型与约束匹配」是一对:后者决定用哪个模型,前者决定模型之外的那一层归谁。
关系网络
在关系网络中的位置
#这项技能相邻的技术信号与背景概念,点击节点可继续探索。
- Open Code Review:少报错的代价是漏掉八成问题
- ZCode 快照事件之后:开源能挽回多少信任
- Opus 5.5 与 GPT-6 同日降价,最贵的一档没有动
- Jev:只输出概率、不输出文字的决策模型
- 纳维-斯托克斯之争:88 小时、3000 亿 token,和一个没回答的问题
- 90 亿个变异预先算好:把模型变成一份资源
- 以前替你否掉那个功能的是一周工期,现在它只要一小时
- 同一个集群多出 33 个点的利用率:变的只是分配顺序
- MCP 无状态之后:被少报的那一半,是网关终于读得懂智能体流量
- Cloudflare Computer:不给智能体一个容器,给它一台机器
- 开放模型生态半年报:点赞与下载,只有一个仓库同时上榜
- DeepSeek Harness 开源:连 Agent Loop 都能换掉
- Gemini 3.7 Flash:主力档三周一迭代,价格砍半
- 生产要持久、评估要轻量——把编排从运行时里拆出来
- Vercel Zero:一门把编译器输出的第一读者当成智能体的语言
- 微软 Agent Framework Harness 正式发布:智能体的运行时成了产品
- 一次 180 万美元的智能体账单:超预算 860%,五个月后才被发现
- LLM 0.32:一个命令行工具长成了智能体框架
- Copilot 与裸 API:为编码智能体的「外壳」付费,到底买到了什么
- Copilot 代码审查复盘:更好的工具让智能体更差,指令才是关键
- Gemini API Managed Agents 扩展:后台任务与远程 MCP 接入
用已发布信号练习
这项技能有助于评估的技术信号
#InfoQ 中文 · 2026-09-26
印证Open Code Review:少报错的代价是漏掉八成问题
阿里巴巴开源了内部用了两年的代码评审工具 Open Code Review:选哪些文件、怎样打包、匹配哪些规则都由确定的程序完成,只有代码分析交给智能体。官方基准里它的精确率和 F1 高于同模型的通用智能体,token 用量约为九分之一,并主动说明召回率更低。外部评论指出最优配置下召回率只有 20%,唯一一次独立测试的精确率约 12%,维护者称是已修复的异常,修复后尚无独立验证。
InfoQ 中文 · 2026-09-23
印证ZCode 快照事件之后:开源能挽回多少信任
开发者 ferstar 逆向发现,智谱的编程工具 ZCode 会生成含完整 Git 历史的工作区快照,加密后直传阿里云 OSS,密钥封装用的私钥在云端。智谱回应称来自默认开启的代码库索引功能,道歉、删除数据、请第三方核查,三天后把整个产品以 Apache 2.0 开源并切断该链路。仍未回答的是:现在还有什么数据会离开本机,以及开源仓库为何没有保留事故之前的提交历史。
Simon Willison Blog · 2026-09-22
印证Opus 5.5 与 GPT-6 同日降价,最贵的一档没有动
9 月 22 日 Anthropic 发布 Claude Opus 5.5,约一小时后 OpenAI 发布 GPT-6 Sol 与 GPT-6 Luna。Sol 和 Luna 的单价约为上一代的一半,Luna 每百万 token 输入 0.10 美元、输出 0.50 美元;Opus 5.5 降价 20%,缓存读取降 60%。最顶档的 GPT-6 Astra 与 Claude Fable 5.1 没动。对跑智能体的团队,缓存价格比标价更决定账单;而 Opus 5.5 的 max 推理档在一道画图题上两次想到撞上输出上限、没有返回任何结果。
Simon Willison Blog · 2026-09-21
印证Jev:只输出概率、不输出文字的决策模型
TypeSafe AI 发布 Jev,自称 System One 模型:输入文本或半结构化的「状态」,不生成文字,只对是否题、选择题、评分题返回带置信度的数字。只按输入计费、输出免费,每百万输入 token 0.042 美元。它适合一切能写成分类的任务,包括检索重排;代价是连「解释一下」都没有,只剩一个浮点数。厂商的「快 194 倍、便宜 445 倍」来自自制评测,它自己承认处在收益高端。
Simon Willison Blog · 2026-09-08
借助纳维-斯托克斯之争:88 小时、3000 亿 token,和一个没回答的问题
9 月 9 日本站因无法核对而没有发布 OpenAI 宣称用 AI 解决纳维-斯托克斯千禧年问题的候选;现在 Simon Willison 逐字引用了 OpenAI 公告并链接了另一方的说明,材料可以核对了,但数学本身仍未经任何独立方核实。按 OpenAI 的数字,智能体约 88 小时得出结果、Lean 验证再用 17 小时,全部尝试合计 3,000 亿个输出 token。另一方 Buckmaster 与 Alpöge 用 Claude 和 Codex 做了近一年,他们问模型是否用其数据训练过,没有得到回答;OpenAI 公告写的是「不能排除」。
Google DeepMind Blog · 2026-09-08
延伸90 亿个变异预先算好:把模型变成一份资源
Google DeepMind 发布 AlphaGenome Atlas:人类基因组中全部 90 亿个单核苷酸变异的分子效应预测,免费向学术研究开放。模型不是新的,新的是它被整个跑完一遍并发布出来——实验室里逐个测试 90 亿种突变不可行,而把预测大规模预先算好,就把一个需要调用的模型变成了一份可以直接查询的资源。数据集 1 PB,是 AlphaFold 数据库的 30 多倍;每个变异带数千项预测,跨数百种细胞类型。同时发布的 AVI 分数把两个模型压成一个数字,但每个分数都链接回驱动它的生物学特征——合成分数可以被拆回去。
Simon Willison Blog · 2026-08-19
延伸以前替你否掉那个功能的是一周工期,现在它只要一小时
Simon Willison 在一次播客里给「代码行数」做了辩护,又给它划了边界:过去一个工程师一天能产出几百行可上生产的代码,两百行已经是极好的一天;如果智能体让这个数字到一千行且质量不变,那是实打实的提升。但产能不是新的瓶颈——认知容量才是。他随后接上《人月神话》的「概念完整性」:加一个功能的成本从一周掉到一小时之后,那个替你否决它的刹车也一起没了。
Hugging Face Blog · 2026-08-17
印证同一个集群多出 33 个点的利用率:变的只是分配顺序
Dharma-AI 做了一个带约束的 GPU 分配器,在七个基准场景里对上 FIFO 调度:硬件不变、负载不变,利用率最多多出 33 个百分点,按优先级加权的产出在每一个场景里都上升,最多翻倍还多。变的只有一件事——分配决定是按什么顺序做出来的。它同时把一个常被当作口号的目标翻译成了可执行的形式:不是「让 GPU 忙起来」,而是哪块卡在哪个时间片跑哪个任务、按什么优先级。
InfoQ 中文 · 2026-08-16
印证MCP 无状态之后:被少报的那一半,是网关终于读得懂智能体流量
本站 08-01 把这次规范改动发成 critical,写的是无状态带来的部署形态变化。这条补上被少报的另一半:两个新的必需标头让网关不打开请求正文就能路由、限流和计量智能体流量——智能体治理此前一直是协议之上的独立控制层,现在元数据进了传输层。附带一组方向相反的数字:SDK 月下载 4 亿次,而一次审计里某台服务器三个月只有 61 次工具调用。
InfoQ 中文 · 2026-08-15
必备Cloudflare Computer:不给智能体一个容器,给它一台机器
本周第三个关于「智能体运行时归谁」的答案,而这一个换了单位:它认为容器根本不该是那个单位。框架跑在 isolate 里,容器按需连上来当作一次工具调用,两边共享同一套基于 SQLite 的文件系统。目标写得很直白——让不到一成的工作才需要容器。仍是早期预览版。
Hugging Face Blog · 2026-08-14
延伸开放模型生态半年报:点赞与下载,只有一个仓库同时上榜
Hugging Face 用自家 Hub 前七个月的数据做了一次生态盘点。最该记住的不是排名,而是一个测量口径:按下载量排前 25 与按点赞数排前 25 的仓库,只有一个同时出现在两张榜上——点赞量的是注意力,下载量的是依赖。同一份报告里第一次量到智能体流量,而它自己的许可结论被评论区当场纠正。
InfoQ 中文 · 2026-08-14
印证DeepSeek Harness 开源:连 Agent Loop 都能换掉
DeepSeek 以 MIT 协议开放了自己的 Harness 开发者预览版,把插件边界从工具层一路下沉到运行时:模型、工具、技能、会话、沙箱、存储、Agent Loop、调度和 UI 全是插件,换掉任何一层都不用改 Harness 源码。仓库两天半拿到 11.4 万 star,但同一份元数据里还有三个数字说明这是注意力而不是采用。
Google DeepMind Blog · 2026-08-13
延伸Gemini 3.7 Flash:主力档三周一迭代,价格砍半
Gemini 3.7 Flash 在 3.6 Flash 发布仅三周后到来,编码、网页开发与文档密集型知识工作全面提升,而每百万 token 的首发价格是上一代的一半。所有对比都是同族前一版,是这类公告里少见的可比口径。
InfoQ 中文 · 2026-08-13
延伸生产要持久、评估要轻量——把编排从运行时里拆出来
Brex 的 AI 工作流平台提出一个模式:把编排逻辑从运行时里拆出来。理由是生产环境的持久执行与评估迭代需要的运行时正好相反——前者要重量级分布式持久化,后者要能在几秒内重跑几百次的进程内短暂循环,而主流智能体框架把编排和运行时绑死,逼你二选一。
InfoQ 中文 · 2026-08-12
延伸Vercel Zero:一门把编译器输出的第一读者当成智能体的语言
Vercel Labs 发布实验性系统语言 Zero,前提是编译器输出的主要阅读者不再是人:每个子命令都统一支持 JSON 输出、错误带稳定代码与带类型的修复元数据,副作用必须走编译器强制的能力参数,而 v0.3.0 起图存储才是编译器输入、源码文件降为给人看的投影。
InfoQ 中文 · 2026-08-10
印证微软 Agent Framework Harness 正式发布:智能体的运行时成了产品
微软把 Agent Framework 从 SDK 推进到受支持的生产运行时:Harness 是单个二进制文件,函数调用、历史持久化、上下文压缩、待办清单、文件记忆、工具审批与 OpenTelemetry 全部默认开启,Foundry Hosted Agents 按用量计费。真正值得记住的是随发布一起出现的两个数字——Claude Code 有 98.4% 的代码属于 Harness 基础设施,AI 决策逻辑只占 1.6%;以及一次固定模型参数的对比中,一个运行时在 40 次往返后自停,另一个跑到 300 次不停。
量子位 · 2026-08-09
印证一次 180 万美元的智能体账单:超预算 860%,五个月后才被发现
亚马逊用 Claude Sonnet 给自家网站填充作者信息,花掉 180 万美元、超预算 860%、五个月后才被发现,而且最终没有部署成功。同期 Meta 员工 30 天消耗 73.7 万亿 token,Uber 四个月烧完全年编码预算。一项调查显示只有 26% 的企业对自身 AI 成本具备全面可见性。这不是一条价格新闻——它是「智能体安静地做错事」这个失败模式的又一种形态:不报错,只出账单。
Simon Willison Blog · 2026-08-04
印证LLM 0.32:一个命令行工具长成了智能体框架
Simon Willison 发布 LLM 0.32,称其为该项目自诞生以来最重要的一版:推理轨迹打到 stderr 因而不污染可管道的标准输出、接入供应商的服务端工具(含由供应商代跑远程 MCP 调用的 AnthropicMCP)、仿 Git 的内容寻址消息存储解决长对话的重复日志、以及分型的流式事件。工具链还能为人工审批暂停并从存储的消息历史恢复——作者由此写道「我猜 LLM 现在是个智能体框架了」。
GitHub Blog AI · 2026-07-22
印证Copilot 与裸 API:为编码智能体的「外壳」付费,到底买到了什么
GitHub 在 Copilot 改为按列表 API 费率计费之后,正面回答了「既然能直接调 API,为什么还要付 Copilot」——答案是你要自己拥有哪一层:模型调用本身,还是围绕它的编辑器、仓库、终端、组织策略与计费控制这一整套外壳。
GitHub Blog · 2026-07-10
印证Copilot 代码审查复盘:更好的工具让智能体更差,指令才是关键
GitHub 把 Copilot 代码审查的专用代码探索工具换成维护更好的共享 CLI 工具(grep/glob/view),预期是干净的升级——结果基准显示审查成本更高、抓到的问题更少。问题不在工具,在指令:按「审查者实际读 PR 的方式」重写工作流指令后,退化翻转为审查成本降低约 20%、质量不变。
Google AI Blog · 2026-07-07
印证Gemini API Managed Agents 扩展:后台任务与远程 MCP 接入
Google 扩展 Gemini API 的 Managed Agents:单端点调用即可让 Gemini 在隔离云沙箱内完成推理、代码执行、包安装与文件管理;新增长时程后台执行(background:true 异步运行,凭 ID 轮询/流式/断线重连)、远程 MCP 服务器直连(与内置沙箱工具混用)、自定义函数调用与跨交互凭证刷新。
背景概念