技术简报 · 第 2026-10-21 号
技术简报 - 2026-10-21
当前展示的是 2026-10-21 发布的最新一期简报。
本页目录6 节
本期概览
#这一期的五条信号都在把能力挪到更便宜、更本地的地方。先看 MiniMax M3.1 Flash:输入每百万 token 0.15 美元,Agent 任务成本较上一代降 70%,OSWorld V2 得 61.7。本地推理有三条:PyTorch 2.15 让 MPS 支持 FP8,MoE 解码在 M3 Ultra 上从 9.4 提到 61.3 tokens/s;AnyLanguageModel 1.0 让 Apple 应用换模型只改一行 import;TorchNeuron 把 Trainium 变成普通的 PyTorch 设备。MemT 1.0 则把记忆做成 Transformer 里的并行分支,288B 型号已开源。
本期立即关注
#精选评级最高的已发布技术信号,编辑置顶的条目优先展示。
MiniMax M3.1 Flash:成本降七成,Agent 国模第一
MiniMax 于 10 月 19 日发布 M3.1 Flash,输入每百万 token 0.15 美元、输出 0.60 美元、缓存输入 0.015 美元,官方称 Agent 任务使用成本较上一代降低 70%。模型在 OSWorld V2 得 61.7、Agents' Last Exam 得 29.6,文章称后者位列中国模型第一...
适合 正在为编码或电脑操作类 Agent 选型的工程团队、需要控制大规模模型调用成本的平台与基础设施负责人、关注国产开放模型在 Agent 赛道进展的技术决策者
值得跟踪
#值得跟进的信号,但在成为立即优先项之前仍需更多背景或验证。
PyTorch 2.15:MPS 支持 FP8,MoE 解码快 6 倍
PyTorch 2.15 为 MPS 后端加入 float8_e4m3fn 张量与 F.scaled_mm,并让 MoE 解码比 2.14 快 5–6.5 倍:M3 Ultra 上 Qwen3.6-35B-A3B 从 9.4 提升到 61.3 tokens/s...
适合 在 Mac 上本地运行 LLM 或 MoE 模型的开发者、用 ComfyUI、diffusers 做本地图像与视频生成的用户、维护 PyTorch 跨平台兼容层的工程团队
AnyLanguageModel 1.0 发布:本地与云端共用一套 API
Hugging Face 为 Apple 平台推出的 AnyLanguageModel 到达 1.0,作为 Foundation Models 框架的替代实现,开发者只改一行 import 就能切换系统模型、llama...
适合 正在用 Foundation Models 框架开发 iOS/macOS 应用的 Swift 开发者、需要在端侧运行开放权重模型并评估机型可行性的移动团队、希望同一套代码同时覆盖设备端与服务器端推理的工程团队
记忆张量开源 MemT 1.0:把记忆原生写进 Transformer
记忆张量开源记忆原生模型 MemT 1.0,含 36B 总参数、激活 3B 的 Nano 与 288B 总参数、激活 17B 的 Flash 两个型号,在 Transformer 模块中加入与注意力并行的记忆分支,把经验编码为可读写的内部状态...
适合 做长时程智能体、需要跨会话复用经验的工程团队、自托管开放权重模型、关心长上下文显存与延迟的推理运维人员、评估企业 AI 方案、关心重复工作流能否沉淀经验的选型负责人
PyTorch 原生支持 Trainium:TorchNeuron 公测
AWS Trainium 通过 TorchNeuron 插件成为 PyTorch 的原生设备:eager 模式、torch.compile 与 FSDP、张量并行都用 PyTorch 自己的接口,10 月 20 日起公测。Transformers、Diffusers...
适合 在 AWS 上做训练或推理、想把 GPU 之外的算力纳入对比的平台团队、维护 Transformers、TRL 微调脚本、关心跨硬件可移植性的工程师、正在用 Optimum Neuron、需要决定是否迁移的团队
来源参考
#本期简报中已发布技术信号所代表的公开来源。
订阅简报
稳定的公开订阅源仅包含已发布的技术简报,草稿和已归档简报不在其中。