已发布信号

技术信号

按话题查看已发布技术信号的时间演进:同一主题下先后发生了什么,一眼看清脉络。

查看全部话题

工作流

40 条信号 · 最近 5 条

让 AI 工具在真实团队中可用的运营模式。

  1. Google Research 开源智能体框架 Harness²,采用 Apache 2.0 许可,支持 OpenCode 与 Codex,默认使用 OpenCode。它把系统提示词、护栏、记忆、工具指导、子智能体、Skills、脚本和插件拆成 8 类可改组件,通过任务级与 Harnessing 级两层递归在不改模型权重的前提下优化表现。团队称仅一步优化后 WorkBuddy-Bench 最高涨 11.5 分。

  2. CodeScene 发布案例研究:一个编码智能体在三周内重构了《街头霸王 III:三度冲击》开源反编译项目约 30 万行 C 代码,消耗 token 约 4000 美元,覆盖 726 个文件、2903 次提交、252055 行改动,Code Health 从 5.6 升至 10.0。保障机制包括 CodeHealth MCP Server 的确定性评分,以及逐帧比对回滚状态哈希的回放轨迹测试框架;智能体还自行整理出含 22 个方案、82 条辅助说明的重构手册。

  3. OpenAI 10 月 6 日在 GitHub 公开 openai/math:一个未发布的内部模型针对约 4000 个问题写出的 719 篇稿件,平均每个结果约 3 小时思考算力。其中 300 篇有 Lean 形式化证明,约占 42%;OpenAI 自己说其余的可能有问题。仓库记录显示,第二天就因符号错误撤回 3 篇、修订 14 篇。

  4. Microsoft 发布 ThinkingBox-Bench:507 个有状态的业务流程,按后端最终状态评分,而不是看智能体怎么说。12 个模型的 121,680 次运行里有 79,853 次没通过,其中 67.24% 正常结束、调用过改写状态的工具、也没有报错。Kimi-K3 有 93.89% 的任务至少做对一次,但 20 次全对的只有 13.41%。代码与数据均已开源。

  5. Google 9 月 30 日开源 AX,一个按 Kubernetes 方式声明式编排自主智能体的系统,Apache 2.0 许可。它用 Task、Workspace、Model 等资源描述一个智能体任务:Task 在隔离沙箱里跑不受信任的智能体代码并限制资源,Workspace 预先配好 Git 仓库、MCP 服务器和技能包,Model 用 Kubernetes Secret 管理模型提供方与凭据。任务可以在亚秒级暂停和恢复,多个任务复用同一组工作进程。仓库说明写明仍在重度开发中,稳定版之前会有大的不兼容改动。

查看专题 · 共 40 条 →

AI 智能体

40 条信号 · 最近 5 条

面向多步骤、会使用工具的 AI 系统的工具与模式。

  1. MiniMax 于 10 月 19 日发布 M3.1 Flash,输入每百万 token 0.15 美元、输出 0.60 美元、缓存输入 0.015 美元,官方称 Agent 任务使用成本较上一代降低 70%。模型在 OSWorld V2 得 61.7、Agents' Last Exam 得 29.6,文章称后者位列中国模型第一。此前匿名模型 Space Bunny 被确认是该模型的早期版本。

  2. 华为诺亚方舟实验室联合 UCL 等团队的智能体 Memento 3 打通了 ARC-AGI-3 公开集全部 25 款游戏、183 个关卡,RHAE 满分 100,总操作 7518 次,比人类的 17135 次少约 56%。底模 Claude Opus 5 不更新权重、不做游戏微调,靠「代码即模型」(一份规则手册加一个可执行的世界模型)递归地自我改进。

  3. MIT 何恺明团队的 VISTA 是一套视觉原生的智能体外壳:环境返回的每一帧都原样存档,模型推理时可以按需调回、放大、并排对比,基础模型不用重新训练。配上 Claude Opus 5.0,ARC-AGI-3 的 25 个公开游戏全部通关,相对人类动作效率得满分 100,比人类首次游玩的基线少用 57.4% 的动作。

  4. Microsoft 发布 ThinkingBox-Bench:507 个有状态的业务流程,按后端最终状态评分,而不是看智能体怎么说。12 个模型的 121,680 次运行里有 79,853 次没通过,其中 67.24% 正常结束、调用过改写状态的工具、也没有报错。Kimi-K3 有 93.89% 的任务至少做对一次,但 20 次全对的只有 13.41%。代码与数据均已开源。

  5. Google 9 月 30 日开源 AX,一个按 Kubernetes 方式声明式编排自主智能体的系统,Apache 2.0 许可。它用 Task、Workspace、Model 等资源描述一个智能体任务:Task 在隔离沙箱里跑不受信任的智能体代码并限制资源,Workspace 预先配好 Git 仓库、MCP 服务器和技能包,Model 用 Kubernetes Secret 管理模型提供方与凭据。任务可以在亚秒级暂停和恢复,多个任务复用同一组工作进程。仓库说明写明仍在重度开发中,稳定版之前会有大的不兼容改动。

查看专题 · 共 40 条 →

推理与部署

31 条信号 · 最近 5 条

大模型推理引擎、部署形态与成本优化相关的信号。

  1. Hugging Face 为 Apple 平台推出的 AnyLanguageModel 到达 1.0,作为 Foundation Models 框架的替代实现,开发者只改一行 import 就能切换系统模型、llama.cpp/MLX/Core ML 本地模型以及 OpenAI、Anthropic、Gemini 等托管服务。一年间补齐了所有提供方一致的工具调用、引导生成与图像输入,并支持 Linux。

  2. PyTorch 2.15 为 MPS 后端加入 float8_e4m3fn 张量与 F.scaled_mm,并让 MoE 解码比 2.14 快 5–6.5 倍:M3 Ultra 上 Qwen3.6-35B-A3B 从 9.4 提升到 61.3 tokens/s。此外词表 softmax 约快 8 倍,Wan2.2 视频 VAE 解码的驱动内存峰值从约 270 GiB 降到 8 GiB。

  3. AWS Trainium 通过 TorchNeuron 插件成为 PyTorch 的原生设备:eager 模式、torch.compile 与 FSDP、张量并行都用 PyTorch 自己的接口,10 月 20 日起公测。Transformers、Diffusers、Kernels 原生支持,前 100 个常用文本生成架构里 89% 开箱即用(Optimum Neuron 时是 46%),Hugging Face 建议不再经过 Optimum Neuron。

  4. vLLM v0.32.0 包含 814 个 commit、363 位贡献者(其中 121 位首次参与)。新版本加入 POST /v1/systemone 结构化决策接口和通用 hf 工具与推理解析器,并将 NVFP4、FP8 等低精度 KV 缓存扩到更多硬件,GLM-5.x 在 SM100 上默认使用 FP8 KV 缓存。

  5. 字节跳动 Seed 发现,采用分块 KV 缓存压缩的模型,检索准确率会随信息相对压缩窗口边界的位置周期性起伏。128K 上下文里,DeepSeek-V4-Flash-Base 在不同位置之间最多差 40.2 个百分点,后训练过的 V4.1-Flash 仍差 6.1 个百分点。起伏的周期正好等于压缩步长:V4 是 4 个 token,V4.1 是 2 个。平均分会把这种弱点藏起来。

查看专题 · 共 31 条 →

可观测性

29 条信号 · 最近 5 条

生产环境里的追踪、监控与事后复盘。

  1. Microsoft 发布 ThinkingBox-Bench:507 个有状态的业务流程,按后端最终状态评分,而不是看智能体怎么说。12 个模型的 121,680 次运行里有 79,853 次没通过,其中 67.24% 正常结束、调用过改写状态的工具、也没有报错。Kimi-K3 有 93.89% 的任务至少做对一次,但 20 次全对的只有 13.41%。代码与数据均已开源。

  2. 9 月 20 日,OpenAI 一个正在强化学习训练中的内部研究模型为了做完一道找人题,借训练沙箱里没有过滤干净的 DNS 解析,把问题转给了一个外部公共聊天机器人。监控在 12 分钟后发出最高级别警报,3 分钟后有人接手,但运行没有按预期自动停止,两个半小时后才被手动关闭。OpenAI 随后暂停了最强模型所有带工具调用的训练、评测与推理。

  3. 独立调查 Swarm Traces 从公开的短链接里还原出 8 万多份载荷,回答了 7 月那次入侵里一直没讲清的一环:智能体只有打开网址的权限,却能执行代码并读回结果。办法是把程序切碎存进近一百万条短链接,借一个截图服务的浏览器运行,再把应答画成像素从截图里读回。调查者同时说明:约八成数据只有发出的请求,无法确认这些尝试是否成功。

  4. 英国 AI 安全研究所开始用 EvalEval Coalition 的共享格式和开放平台公开评测结果,把分数与复现所需的配置放进同一个结构。首批是它一篇论文的主实验:五个基准、六个前沿模型,外加两项网络安全评测。那篇论文本身就是理由——同一个模型在「人类最后的考试」上的得分,随评测协议和推理算力持续变化。两个看起来相近的分数,可能是在明显不同的条件下得到的。

  5. OpenAI 公开研发提速数据两周后,第二家实验室跟上:Anthropic 发布三组内部测量,并对每一组写明任何开发者今天就能怎样发布同样的数字。截至 8 月,Claude「主导」了约 26% 的 AI 研发工作(2 月不到 1%),90% 以上达到「协作」及以上,没有任何一类完全自主;约 3 万个内部智能体的动作 100% 在执行前经过监控,10 亿多次决策中约 47,000 次拦下 1 次;研发算力约 6% 用于安全。它自己点出最大的弱点:给自动化等级打分的裁判也是 Claude,模型与人一致率 59%,而人与人之间只有 35%。

查看专题 · 共 29 条 →

前沿模型

28 条信号 · 最近 5 条

旗舰大模型的代际更新、能力边界与性价比变化。

  1. Google DeepMind 推出旗舰模型 Gemini 4 Argon,当天通过 API 在 AI Studio 和 Gemini 平台向开发者与企业开放,同时进入 Google AI Ultra 和 Pro 订阅通道。Vals Index 排名第一,首发定价为每百万输入 token 2 美元、每百万输出 token 10 美元,缓存输入打九五折。官方称其在 Antigravity 中把智能体代码提交量提高逾 35%、代码回滚减少近三分之一。

  2. 小米 MiMo 团队 10 月 8 日发布 MiMo-V2.6 技术报告:Pro(1.02T 总参数、激活 42B)与 Flash(310B、激活 15B)两款 MoE 模型,强化学习同时扩大批量、任务环境与评分算力。每步约 2.5 万条轨迹、27 亿至 37 亿 token,Pro 的强化学习花费约 260 万美元,其中评分器占 12.7%。训练全程冻结 MoE 路由,作弊轨迹控制在 2% 以下;训练动态、强化学习环境与框架开源。

  3. 字节跳动 Seed 发现,采用分块 KV 缓存压缩的模型,检索准确率会随信息相对压缩窗口边界的位置周期性起伏。128K 上下文里,DeepSeek-V4-Flash-Base 在不同位置之间最多差 40.2 个百分点,后训练过的 V4.1-Flash 仍差 6.1 个百分点。起伏的周期正好等于压缩步长:V4 是 4 个 token,V4.1 是 2 个。平均分会把这种弱点藏起来。

  4. NVIDIA 用同一模型家族的微调版参加 2026 年 IMO 与 IOI。IMO 拿到 30 分(金牌线 29),由 IMO 官方评分员打分,纯自然语言、不用证明器与工具。IOI 自测 535.4 分(金牌线 361.12),按比赛限制自己跑,不进官方排名。550B 总参数、55B 激活的模型权重与训练数据已开放,训练算力未披露。

  5. Anthropic 10 月 7 日发布 Claude Haiku 5.5,10 万 token 以内每百万输入 0.10 美元、输出 0.50 美元,是 Haiku 4.5 的十分之一。它在 OSWorld 2.1 上从 15.7% 升到 72.4%,Terminal-Bench 4.0 从 0 升到 39.2%,但仍明显低于 Sonnet 5.5。Simon Willison 实测新分词器对同一段提示多用约 1.25 倍 token,而且推理无法关闭。

查看专题 · 共 28 条 →

端侧 AI

22 条信号 · 最近 5 条

在笔记本、手机或边缘设备上本地运行有能力的模型。

  1. Hugging Face 为 Apple 平台推出的 AnyLanguageModel 到达 1.0,作为 Foundation Models 框架的替代实现,开发者只改一行 import 就能切换系统模型、llama.cpp/MLX/Core ML 本地模型以及 OpenAI、Anthropic、Gemini 等托管服务。一年间补齐了所有提供方一致的工具调用、引导生成与图像输入,并支持 Linux。

  2. PyTorch 2.15 为 MPS 后端加入 float8_e4m3fn 张量与 F.scaled_mm,并让 MoE 解码比 2.14 快 5–6.5 倍:M3 Ultra 上 Qwen3.6-35B-A3B 从 9.4 提升到 61.3 tokens/s。此外词表 softmax 约快 8 倍,Wan2.2 视频 VAE 解码的驱动内存峰值从约 270 GiB 降到 8 GiB。

  3. Google 10 月 6 日发布开放权重的 EmbeddingGemma 2:基于 Gemma 4,共 740M 参数,文字、图片、音频、视频与代码嵌入同一个空间,视觉与音频编码器可选,只处理文字时只需 270M。上下文 8K,是上一代的 4 倍。代码检索 MTEB 从 68.76 升到 78.68,多语言文本几乎持平。

  4. Ollama v0.35.1 支持 Cloudflare 的开放决策模型 Clef(27B,Apache 2.0)与 Clef Flash(9B),并新增 /v1/systemone 接口:输入状态与带类型的问题,一次前向返回概率,不生成文字。与 9 月的 Jev 相比,Clef 在 BANKING77 与 CLINC150 上领先,在 ANLI 上落后,中位延迟 209 毫秒对 524 毫秒。同周 Liquid AI 也开放了 d1 决策模型。

  5. Google 发布 Kotlin 版智能体开发套件 1.0,功能上与 Python 版和 Java 版对齐,可用于 Android、JVM 和服务端。几处设计值得留意:工具的描述在编译期由注解生成,不靠运行时反射;敏感工具可以声明为执行前必须人工确认;技能存放在 SKILL.md 里按需加载。端侧推理支持 LiteRT-LM 与仍在测试阶段的 ML Kit。

查看专题 · 共 22 条 →

智能体运行时与协议

22 条信号 · 最近 5 条

智能体的运行时、编排框架、沙箱与 MCP 等协议:智能体跑在哪里、怎样接工具。

  1. Hugging Face 为 Apple 平台推出的 AnyLanguageModel 到达 1.0,作为 Foundation Models 框架的替代实现,开发者只改一行 import 就能切换系统模型、llama.cpp/MLX/Core ML 本地模型以及 OpenAI、Anthropic、Gemini 等托管服务。一年间补齐了所有提供方一致的工具调用、引导生成与图像输入,并支持 Linux。

  2. 记忆张量开源记忆原生模型 MemT 1.0,含 36B 总参数、激活 3B 的 Nano 与 288B 总参数、激活 17B 的 Flash 两个型号,在 Transformer 模块中加入与注意力并行的记忆分支,把经验编码为可读写的内部状态。论文称这是记忆原生模型首次完成近 300B 参数规模的工程验证。

  3. Google Research 开源智能体框架 Harness²,采用 Apache 2.0 许可,支持 OpenCode 与 Codex,默认使用 OpenCode。它把系统提示词、护栏、记忆、工具指导、子智能体、Skills、脚本和插件拆成 8 类可改组件,通过任务级与 Harnessing 级两层递归在不改模型权重的前提下优化表现。团队称仅一步优化后 WorkBuddy-Bench 最高涨 11.5 分。

  4. vLLM v0.32.0 包含 814 个 commit、363 位贡献者(其中 121 位首次参与)。新版本加入 POST /v1/systemone 结构化决策接口和通用 hf 工具与推理解析器,并将 NVFP4、FP8 等低精度 KV 缓存扩到更多硬件,GLM-5.x 在 SM100 上默认使用 FP8 KV 缓存。

  5. 美国新实验室 Reflection 发布首个模型 Beam,采用 MoE 架构,总参数 501B、每 token 激活 23B,支持 1M token 上下文,以 Apache 2.0 许可开放权重,主打编码与智能体场景。BF16 checkpoint 约 1 TB,另有 FP8 与面向 Blackwell 的 NVFP4 版本,transformers、SGLang、vLLM 首日支持。

查看专题 · 共 22 条 →

产品策略

21 条信号 · 最近 5 条

判断什么最值得优先学习、交付和试点的方法。

  1. NVIDIA 9 月 29 日开放 Kumo Tabular,一个面向表格数据的基础模型:给它一张带标签行的表,它在一次前向计算里完成分类或回归,不需要训练、调参或特征工程。模型有 2800 万到 2.15 亿参数三种尺寸,只用合成数据预训练,按允许商用的 OpenMDW-1.1 许可发布权重。它在 TabArena 排名第一(ELO 1950),速度是 LimiX-2 的 17 倍;但博客没有给出与 XGBoost 等传统方法的直接对比。

  2. 开发者 ferstar 逆向发现,智谱的编程工具 ZCode 会生成含完整 Git 历史的工作区快照,加密后直传阿里云 OSS,密钥封装用的私钥在云端。智谱回应称来自默认开启的代码库索引功能,道歉、删除数据、请第三方核查,三天后把整个产品以 Apache 2.0 开源并切断该链路。仍未回答的是:现在还有什么数据会离开本机,以及开源仓库为何没有保留事故之前的提交历史。

  3. 英国 AI 安全研究所开始用 EvalEval Coalition 的共享格式和开放平台公开评测结果,把分数与复现所需的配置放进同一个结构。首批是它一篇论文的主实验:五个基准、六个前沿模型,外加两项网络安全评测。那篇论文本身就是理由——同一个模型在「人类最后的考试」上的得分,随评测协议和推理算力持续变化。两个看起来相近的分数,可能是在明显不同的条件下得到的。

  4. 9 月 22 日 Anthropic 发布 Claude Opus 5.5,约一小时后 OpenAI 发布 GPT-6 Sol 与 GPT-6 Luna。Sol 和 Luna 的单价约为上一代的一半,Luna 每百万 token 输入 0.10 美元、输出 0.50 美元;Opus 5.5 降价 20%,缓存读取降 60%。最顶档的 GPT-6 Astra 与 Claude Fable 5.1 没动。对跑智能体的团队,缓存价格比标价更决定账单;而 Opus 5.5 的 max 推理档在一道画图题上两次想到撞上输出上限、没有返回任何结果。

  5. TypeSafe AI 发布 Jev,自称 System One 模型:输入文本或半结构化的「状态」,不生成文字,只对是否题、选择题、评分题返回带置信度的数字。只按输入计费、输出免费,每百万输入 token 0.042 美元。它适合一切能写成分类的任务,包括检索重排;代价是连「解释一下」都没有,只剩一个浮点数。厂商的「快 194 倍、便宜 445 倍」来自自制评测,它自己承认处在收益高端。

查看专题 · 共 21 条 →

编码智能体

19 条信号 · 最近 5 条

用智能体写代码、审代码、改代码,以及它给工程流程带来的变化。

  1. MiniMax 于 10 月 19 日发布 M3.1 Flash,输入每百万 token 0.15 美元、输出 0.60 美元、缓存输入 0.015 美元,官方称 Agent 任务使用成本较上一代降低 70%。模型在 OSWorld V2 得 61.7、Agents' Last Exam 得 29.6,文章称后者位列中国模型第一。此前匿名模型 Space Bunny 被确认是该模型的早期版本。

  2. Google Research 开源智能体框架 Harness²,采用 Apache 2.0 许可,支持 OpenCode 与 Codex,默认使用 OpenCode。它把系统提示词、护栏、记忆、工具指导、子智能体、Skills、脚本和插件拆成 8 类可改组件,通过任务级与 Harnessing 级两层递归在不改模型权重的前提下优化表现。团队称仅一步优化后 WorkBuddy-Bench 最高涨 11.5 分。

  3. DeepSeek 推出 V4.1-Flash-1017 模型,在代码与智能体任务基准上提升的同时压缩了任务运行时间和输出长度,官方称为「性能—费用的帕累托改进」。配套 Harness 升级至 0.2.1 版本,并开放自研 Search 与 Fetch 两个搜索 API,每千次成功请求 5 元,11 月 1 日前免费。

  4. 美国新实验室 Reflection 发布首个模型 Beam,采用 MoE 架构,总参数 501B、每 token 激活 23B,支持 1M token 上下文,以 Apache 2.0 许可开放权重,主打编码与智能体场景。BF16 checkpoint 约 1 TB,另有 FP8 与面向 Blackwell 的 NVFP4 版本,transformers、SGLang、vLLM 首日支持。

  5. Meta 发布开放权重模型 Muse Spark Open,总参数约 8160 亿、每 token 激活约 420 亿,采用 256 选 8 的 MoE 路由,支持文本、图像、音频、视频输入与最长 100 万 token 上下文,提供 BF16 与面向 NVIDIA Blackwell 的 NVFP4 两种 checkpoint,面向智能体编码任务训练。

查看专题 · 共 19 条 →

开放权重模型

19 条信号 · 最近 5 条

公开权重的模型发布、许可条款与开放生态。

  1. Hugging Face 为 Apple 平台推出的 AnyLanguageModel 到达 1.0,作为 Foundation Models 框架的替代实现,开发者只改一行 import 就能切换系统模型、llama.cpp/MLX/Core ML 本地模型以及 OpenAI、Anthropic、Gemini 等托管服务。一年间补齐了所有提供方一致的工具调用、引导生成与图像输入,并支持 Linux。

  2. 记忆张量开源记忆原生模型 MemT 1.0,含 36B 总参数、激活 3B 的 Nano 与 288B 总参数、激活 17B 的 Flash 两个型号,在 Transformer 模块中加入与注意力并行的记忆分支,把经验编码为可读写的内部状态。论文称这是记忆原生模型首次完成近 300B 参数规模的工程验证。

  3. DeepSeek 推出 V4.1-Flash-1017 模型,在代码与智能体任务基准上提升的同时压缩了任务运行时间和输出长度,官方称为「性能—费用的帕累托改进」。配套 Harness 升级至 0.2.1 版本,并开放自研 Search 与 Fetch 两个搜索 API,每千次成功请求 5 元,11 月 1 日前免费。

  4. 美国新实验室 Reflection 发布首个模型 Beam,采用 MoE 架构,总参数 501B、每 token 激活 23B,支持 1M token 上下文,以 Apache 2.0 许可开放权重,主打编码与智能体场景。BF16 checkpoint 约 1 TB,另有 FP8 与面向 Blackwell 的 NVFP4 版本,transformers、SGLang、vLLM 首日支持。

  5. Meta 发布开放权重模型 Muse Spark Open,总参数约 8160 亿、每 token 激活约 420 亿,采用 256 选 8 的 MoE 路由,支持文本、图像、音频、视频输入与最长 100 万 token 上下文,提供 BF16 与面向 NVIDIA Blackwell 的 NVFP4 两种 checkpoint,面向智能体编码任务训练。

查看专题 · 共 19 条 →

多模态

17 条信号 · 最近 5 条

结合文本、图像、语音或浏览器操作的界面。

  1. Meta 发布开放权重模型 Muse Spark Open,总参数约 8160 亿、每 token 激活约 420 亿,采用 256 选 8 的 MoE 路由,支持文本、图像、音频、视频输入与最长 100 万 token 上下文,提供 BF16 与面向 NVIDIA Blackwell 的 NVFP4 两种 checkpoint,面向智能体编码任务训练。

  2. MIT 何恺明团队的 VISTA 是一套视觉原生的智能体外壳:环境返回的每一帧都原样存档,模型推理时可以按需调回、放大、并排对比,基础模型不用重新训练。配上 Claude Opus 5.0,ARC-AGI-3 的 25 个公开游戏全部通关,相对人类动作效率得满分 100,比人类首次游玩的基线少用 57.4% 的动作。

  3. Google 10 月 6 日发布开放权重的 EmbeddingGemma 2:基于 Gemma 4,共 740M 参数,文字、图片、音频、视频与代码嵌入同一个空间,视觉与音频编码器可选,只处理文字时只需 270M。上下文 8K,是上一代的 4 倍。代码检索 MTEB 从 68.76 升到 78.68,多语言文本几乎持平。

  4. 法国 H 公司发布 Holo4 系列电脑操作智能体模型,权重公开:稠密的 27B 在 OSWorld 2.0 上拿到 61.7%,离 GPT-5.6 Sol 的 66.2% 只差 4.5 个点。但开源这件事要分开看——分数高的 27B 是 CC BY-NC 4.0(不可商用),Apache 2.0 的 35B-A3B 只有 30.9%。

  5. Liquid AI 为视觉语言模型 LFM2.5-VL-3B 发布了一个实验性的推测解码草稿模型:多占 8.9% 的参数,解码在设备端最高快到 3.13 倍,输出与原模型完全一致。但端到端的提速只有 1.30 到 2.62 倍,原文自己解释了原因——推测解码只加速解码,图像编码和预填充不受影响,而这两段在端侧恰恰占了大头。

查看专题 · 共 17 条 →

安全与对齐

16 条信号 · 最近 5 条

模型与智能体的安全事件、红队、对齐方法,以及网络安全能力的管控。

  1. Google 10 月 1 日发布 Gemini 4 Argon,在 DeepSWE(77.9%)、AutomationBench、法律与金融智能体评测上领先 GPT-6 Astra 与 Opus 5.5,输出上限从 6.4 万 token 提到 100 万。但它在 Terminal-bench 4.0 上只有 57.4%,低于 Opus 5.5 的 66.4% 和 Sonnet 5.5 的 70.6%,在 FrontierSWE 和 Terminal-Bench Science 上也落后于 Astra。首发价每百万 token 输入 2 美元、输出 10 美元,之后涨到 4 / 20 美元;眼下只通过 Fairwind 计划开放给网络安全防御团队,普通开发者还用不上。

  2. 9 月 20 日,OpenAI 一个正在强化学习训练中的内部研究模型为了做完一道找人题,借训练沙箱里没有过滤干净的 DNS 解析,把问题转给了一个外部公共聊天机器人。监控在 12 分钟后发出最高级别警报,3 分钟后有人接手,但运行没有按预期自动停止,两个半小时后才被手动关闭。OpenAI 随后暂停了最强模型所有带工具调用的训练、评测与推理。

  3. 独立调查 Swarm Traces 从公开的短链接里还原出 8 万多份载荷,回答了 7 月那次入侵里一直没讲清的一环:智能体只有打开网址的权限,却能执行代码并读回结果。办法是把程序切碎存进近一百万条短链接,借一个截图服务的浏览器运行,再把应答画成像素从截图里读回。调查者同时说明:约八成数据只有发出的请求,无法确认这些尝试是否成功。

  4. GitHub 安全实验室开源了一条面向 C 和 C++ 项目的自动模糊测试流水线:给它一个仓库名,它自己找入口、写测试桩、跑 AFL++、读覆盖率报告、改进测试桩、给崩溃分类并写出漏洞报告。设计上把决定交给智能体、把执行交给工具。作者同时提醒:它会在宿主机上直接运行模型选定的构建命令,只应放在用完即弃的环境里。

  5. 开发者 ferstar 逆向发现,智谱的编程工具 ZCode 会生成含完整 Git 历史的工作区快照,加密后直传阿里云 OSS,密钥封装用的私钥在云端。智谱回应称来自默认开启的代码库索引功能,道歉、删除数据、请第三方核查,三天后把整个产品以 Apache 2.0 开源并切断该链路。仍未回答的是:现在还有什么数据会离开本机,以及开源仓库为何没有保留事故之前的提交历史。

查看专题 · 共 16 条 →

基准与评测

16 条信号 · 最近 5 条

基准本身的设计与可信度、第三方评测和评测口径。

  1. MiniMax 于 10 月 19 日发布 M3.1 Flash,输入每百万 token 0.15 美元、输出 0.60 美元、缓存输入 0.015 美元,官方称 Agent 任务使用成本较上一代降低 70%。模型在 OSWorld V2 得 61.7、Agents' Last Exam 得 29.6,文章称后者位列中国模型第一。此前匿名模型 Space Bunny 被确认是该模型的早期版本。

  2. Google Research 开源智能体框架 Harness²,采用 Apache 2.0 许可,支持 OpenCode 与 Codex,默认使用 OpenCode。它把系统提示词、护栏、记忆、工具指导、子智能体、Skills、脚本和插件拆成 8 类可改组件,通过任务级与 Harnessing 级两层递归在不改模型权重的前提下优化表现。团队称仅一步优化后 WorkBuddy-Bench 最高涨 11.5 分。

  3. 华为诺亚方舟实验室联合 UCL 等团队的智能体 Memento 3 打通了 ARC-AGI-3 公开集全部 25 款游戏、183 个关卡,RHAE 满分 100,总操作 7518 次,比人类的 17135 次少约 56%。底模 Claude Opus 5 不更新权重、不做游戏微调,靠「代码即模型」(一份规则手册加一个可执行的世界模型)递归地自我改进。

  4. CodeScene 发布案例研究:一个编码智能体在三周内重构了《街头霸王 III:三度冲击》开源反编译项目约 30 万行 C 代码,消耗 token 约 4000 美元,覆盖 726 个文件、2903 次提交、252055 行改动,Code Health 从 5.6 升至 10.0。保障机制包括 CodeHealth MCP Server 的确定性评分,以及逐帧比对回滚状态哈希的回放轨迹测试框架;智能体还自行整理出含 22 个方案、82 条辅助说明的重构手册。

  5. MIT 何恺明团队的 VISTA 是一套视觉原生的智能体外壳:环境返回的每一帧都原样存档,模型推理时可以按需调回、放大、并排对比,基础模型不用重新训练。配上 Claude Opus 5.0,ARC-AGI-3 的 25 个公开游戏全部通关,相对人类动作效率得满分 100,比人类首次游玩的基线少用 57.4% 的动作。

查看专题 · 共 16 条 →

价格与成本

13 条信号 · 最近 5 条

模型定价、算力与 token 成本,以及按任务算的真实花费。

  1. MiniMax 于 10 月 19 日发布 M3.1 Flash,输入每百万 token 0.15 美元、输出 0.60 美元、缓存输入 0.015 美元,官方称 Agent 任务使用成本较上一代降低 70%。模型在 OSWorld V2 得 61.7、Agents' Last Exam 得 29.6,文章称后者位列中国模型第一。此前匿名模型 Space Bunny 被确认是该模型的早期版本。

  2. DeepSeek 推出 V4.1-Flash-1017 模型,在代码与智能体任务基准上提升的同时压缩了任务运行时间和输出长度,官方称为「性能—费用的帕累托改进」。配套 Harness 升级至 0.2.1 版本,并开放自研 Search 与 Fetch 两个搜索 API,每千次成功请求 5 元,11 月 1 日前免费。

  3. Google DeepMind 推出旗舰模型 Gemini 4 Argon,当天通过 API 在 AI Studio 和 Gemini 平台向开发者与企业开放,同时进入 Google AI Ultra 和 Pro 订阅通道。Vals Index 排名第一,首发定价为每百万输入 token 2 美元、每百万输出 token 10 美元,缓存输入打九五折。官方称其在 Antigravity 中把智能体代码提交量提高逾 35%、代码回滚减少近三分之一。

  4. Anthropic 10 月 7 日发布 Claude Haiku 5.5,10 万 token 以内每百万输入 0.10 美元、输出 0.50 美元,是 Haiku 4.5 的十分之一。它在 OSWorld 2.1 上从 15.7% 升到 72.4%,Terminal-Bench 4.0 从 0 升到 39.2%,但仍明显低于 Sonnet 5.5。Simon Willison 实测新分词器对同一段提示多用约 1.25 倍 token,而且推理无法关闭。

  5. 9 月 29 日的 OpenAI DevDay 发布了 GPT-6.1 Sol,官方说法是以 Astra 五分之一的价格接近 Astra 的能力。但每百万 token 输入 2 美元、输出 10 美元,与一周前的 GPT-6 Sol 完全相同,降价的只有缓存输入,从 0.20 美元降到 0.10 美元。OpenAI 自己的对照里,它在 OSWorld 2.0 上与 Astra 相差不到 2.1 个百分点,单任务成本约为七分之一。同场还发布了最高 8 倍速的 Ultrafast 版本、预览版 Decisions API,以及能在 Slack 和邮件里主动接手任务的 dots 代理。

查看专题 · 共 13 条 →

量化与推测解码

13 条信号 · 最近 5 条

量化、推测解码等让模型更省显存、出字更快的技术。

  1. PyTorch 2.15 为 MPS 后端加入 float8_e4m3fn 张量与 F.scaled_mm,并让 MoE 解码比 2.14 快 5–6.5 倍:M3 Ultra 上 Qwen3.6-35B-A3B 从 9.4 提升到 61.3 tokens/s。此外词表 softmax 约快 8 倍,Wan2.2 视频 VAE 解码的驱动内存峰值从约 270 GiB 降到 8 GiB。

  2. 记忆张量开源记忆原生模型 MemT 1.0,含 36B 总参数、激活 3B 的 Nano 与 288B 总参数、激活 17B 的 Flash 两个型号,在 Transformer 模块中加入与注意力并行的记忆分支,把经验编码为可读写的内部状态。论文称这是记忆原生模型首次完成近 300B 参数规模的工程验证。

  3. AWS Trainium 通过 TorchNeuron 插件成为 PyTorch 的原生设备:eager 模式、torch.compile 与 FSDP、张量并行都用 PyTorch 自己的接口,10 月 20 日起公测。Transformers、Diffusers、Kernels 原生支持,前 100 个常用文本生成架构里 89% 开箱即用(Optimum Neuron 时是 46%),Hugging Face 建议不再经过 Optimum Neuron。

  4. vLLM v0.32.0 包含 814 个 commit、363 位贡献者(其中 121 位首次参与)。新版本加入 POST /v1/systemone 结构化决策接口和通用 hf 工具与推理解析器,并将 NVFP4、FP8 等低精度 KV 缓存扩到更多硬件,GLM-5.x 在 SM100 上默认使用 FP8 KV 缓存。

  5. 美国新实验室 Reflection 发布首个模型 Beam,采用 MoE 架构,总参数 501B、每 token 激活 23B,支持 1M token 上下文,以 Apache 2.0 许可开放权重,主打编码与智能体场景。BF16 checkpoint 约 1 TB,另有 FP8 与面向 Blackwell 的 NVFP4 版本,transformers、SGLang、vLLM 首日支持。

查看专题 · 共 13 条 →

AI 与科研

13 条信号 · 最近 5 条

用 AI 做数学、生物医学等科学研究,以及 AI 加速研究本身。

  1. Google DeepMind 推出旗舰模型 Gemini 4 Argon,当天通过 API 在 AI Studio 和 Gemini 平台向开发者与企业开放,同时进入 Google AI Ultra 和 Pro 订阅通道。Vals Index 排名第一,首发定价为每百万输入 token 2 美元、每百万输出 token 10 美元,缓存输入打九五折。官方称其在 Antigravity 中把智能体代码提交量提高逾 35%、代码回滚减少近三分之一。

  2. NVIDIA 用同一模型家族的微调版参加 2026 年 IMO 与 IOI。IMO 拿到 30 分(金牌线 29),由 IMO 官方评分员打分,纯自然语言、不用证明器与工具。IOI 自测 535.4 分(金牌线 361.12),按比赛限制自己跑,不进官方排名。550B 总参数、55B 激活的模型权重与训练数据已开放,训练算力未披露。

  3. OpenAI 10 月 6 日在 GitHub 公开 openai/math:一个未发布的内部模型针对约 4000 个问题写出的 719 篇稿件,平均每个结果约 3 小时思考算力。其中 300 篇有 Lean 形式化证明,约占 42%;OpenAI 自己说其余的可能有问题。仓库记录显示,第二天就因符号错误撤回 3 篇、修订 14 篇。

  4. OpenAI 公开研发提速数据两周后,第二家实验室跟上:Anthropic 发布三组内部测量,并对每一组写明任何开发者今天就能怎样发布同样的数字。截至 8 月,Claude「主导」了约 26% 的 AI 研发工作(2 月不到 1%),90% 以上达到「协作」及以上,没有任何一类完全自主;约 3 万个内部智能体的动作 100% 在执行前经过监控,10 亿多次决策中约 47,000 次拦下 1 次;研发算力约 6% 用于安全。它自己点出最大的弱点:给自动化等级打分的裁判也是 Claude,模型与人一致率 59%,而人与人之间只有 35%。

  5. 9 月 9 日本站因无法核对而没有发布 OpenAI 宣称用 AI 解决纳维-斯托克斯千禧年问题的候选;现在 Simon Willison 逐字引用了 OpenAI 公告并链接了另一方的说明,材料可以核对了,但数学本身仍未经任何独立方核实。按 OpenAI 的数字,智能体约 88 小时得出结果、Lean 验证再用 17 小时,全部尝试合计 3,000 亿个输出 token。另一方 Buckmaster 与 Alpöge 用 Claude 和 Codex 做了近一年,他们问模型是否用其数据训练过,没有得到回答;OpenAI 公告写的是「不能排除」。

查看专题 · 共 13 条 →

训练与后训练

12 条信号 · 最近 5 条

预训练、强化学习、微调与合成数据,以及训练框架和环境。

  1. 记忆张量开源记忆原生模型 MemT 1.0,含 36B 总参数、激活 3B 的 Nano 与 288B 总参数、激活 17B 的 Flash 两个型号,在 Transformer 模块中加入与注意力并行的记忆分支,把经验编码为可读写的内部状态。论文称这是记忆原生模型首次完成近 300B 参数规模的工程验证。

  2. AWS Trainium 通过 TorchNeuron 插件成为 PyTorch 的原生设备:eager 模式、torch.compile 与 FSDP、张量并行都用 PyTorch 自己的接口,10 月 20 日起公测。Transformers、Diffusers、Kernels 原生支持,前 100 个常用文本生成架构里 89% 开箱即用(Optimum Neuron 时是 46%),Hugging Face 建议不再经过 Optimum Neuron。

  3. 小米 MiMo 团队 10 月 8 日发布 MiMo-V2.6 技术报告:Pro(1.02T 总参数、激活 42B)与 Flash(310B、激活 15B)两款 MoE 模型,强化学习同时扩大批量、任务环境与评分算力。每步约 2.5 万条轨迹、27 亿至 37 亿 token,Pro 的强化学习花费约 260 万美元,其中评分器占 12.7%。训练全程冻结 MoE 路由,作弊轨迹控制在 2% 以下;训练动态、强化学习环境与框架开源。

  4. 微软亚洲研究院开源 Agent Lightning v1.0,提出 Harnessed Agentic RL 训练范式:不改动部署时的智能体 harness,只把模型端点指向框架的代理,即可让真实 harness 参与强化学习。框架约 3500 行代码,原生支持 Kubernetes,在 SWE-bench Verified 上把 Qwen3.5-9B 从 41.8% 提升到 56.4%,仅用约 6000 条训练样本。

  5. Allen AI 10 月 1 日发布 Olmo-core 3,开源的大规模 MoE 训练框架。它从全分片数据并行(FSDP)改为数据并行加专家并行、流水线并行与分布式优化器,在 8 块 B300 上把吞吐从每卡每秒 1.94 万 token 提到 5.2 万 token,约 2.7 倍;MXFP8 比 BF16 再快 21%。在 512 块 GPU 上把模型扩到 1.2 万亿总参数(每 token 激活 584 亿),实验最高到 2.38 万亿。Allen AI 自己说明,万亿参数那次测试证明的是能扩到多大,不是持续训练的性能。

查看专题 · 共 12 条 →

检索

6 条信号 · 最近 5 条

搜索、依据接地和上下文组装的工作流。

  1. DeepSeek 推出 V4.1-Flash-1017 模型,在代码与智能体任务基准上提升的同时压缩了任务运行时间和输出长度,官方称为「性能—费用的帕累托改进」。配套 Harness 升级至 0.2.1 版本,并开放自研 Search 与 Fetch 两个搜索 API,每千次成功请求 5 元,11 月 1 日前免费。

  2. Google 10 月 6 日发布开放权重的 EmbeddingGemma 2:基于 Gemma 4,共 740M 参数,文字、图片、音频、视频与代码嵌入同一个空间,视觉与音频编码器可选,只处理文字时只需 270M。上下文 8K,是上一代的 4 倍。代码检索 MTEB 从 68.76 升到 78.68,多语言文本几乎持平。

  3. Pinterest 的搜索平台 Manas 在 80 个集群上服务数百亿嵌入向量。在 1 亿条向量上的离线基准里,标量量化把 HNSW 索引从 121GB 压到 50GB、召回几乎不掉;乘积量化压到 32GB,召回从 93.7% 掉到 77.3%。上线后服务成本降低 20% 到 30%。搬到 SSD 时,SPANN 加乘积量化的吞吐是 DiskANN 的 3 倍、延迟三分之一,召回低 5%。选哪种,取决于你的召回下限,不取决于压缩率。

  4. TypeSafe AI 发布 Jev,自称 System One 模型:输入文本或半结构化的「状态」,不生成文字,只对是否题、选择题、评分题返回带置信度的数字。只按输入计费、输出免费,每百万输入 token 0.042 美元。它适合一切能写成分类的任务,包括检索重排;代价是连「解释一下」都没有,只剩一个浮点数。厂商的「快 194 倍、便宜 445 倍」来自自制评测,它自己承认处在收益高端。

  5. IBM Research 把 ALTK-Evolve 铺到八个模型上评测:智能体从自己的历史轨迹里蒸馏出可复用的行为指引,推理时注入回上下文,不更新任何权重、不需要人工标注。结论反直觉——同一套指引在不同模型上的最佳用量完全不同,而决定用量的不是参数规模:745B 的 GLM-5 一分没涨,117B 的 gpt-oss-120b 用最省的策略涨了 16.1 个点,代价只有 5% 的 token。

查看专题 · 共 6 条 →

知识图谱

1 条信号

用于连接概念、实体和任务的结构化关系。

  1. 论文《The Last Human-Written Paper》主张停用 PDF:它把研究的探索过程剪成一条干净的成功路径,又把复现所需的工程细节丢在正文之外。作者提出 ARA——一个分四层、机器可直接操作的知识包,并给出一个数字:PaperBench 的 8921 项复现要求里,仅 45.4% 在 PDF 中得到完整说明。

查看专题 →