技术简报 · 第 2026-07-27 号
技术简报 - 2026-07-27
本页目录6 节
本期概览
#今天三条信号都不在模型本身，而在模型外面那一层。vLLM v0.26.0 用十天左右把 Inkling 这样的万亿参数开源模型接进了完整推理栈——基础建模、分段 CUDA Graph、注意力核、推测解码一次配齐，开源权重到「真正能测」的间隔正在肉眼可见地缩短。Ollama v0.32.4 是同一件事的端侧版本：草稿模型输出头的量化、专家精度不一致的解码修复，都是把推测解码和 MoE 在本地跑顺的最后几厘米。而 GitHub 那篇「Copilot 与裸 API」把这层工作明码标价了——当模型调用的价差被抹平，真正要决策的是编辑器、仓库、终端、组织策略这套外壳你要不要自己拥有。三条放在一起，回答的是同一个问题：模型之外，你还得自己造多少东西。
本期立即关注
#精选评级最高的已发布技术信号，编辑置顶的条目优先展示。
vLLM v0.26.0：为 Inkling 万亿参数模型补齐推理全栈
vLLM 发布 v0.26.0，来自 212 位贡献者的 411 个提交。最重要的一条是为 Thinking Machines 开源的 Inkling 模型家族提供完整支持栈：基础建模、分段 CUDA Graph、Hopper 架构的 FA4 相对注意力，以及 MTP=1 的推测解码。
适合 自建或自运维推理服务的平台团队、需要在本地评估新开源模型的算法与评测团队、关注 MoE 与推测解码落地成本的架构师
值得跟踪
#值得跟进的信号，但在成为立即优先项之前仍需更多背景或验证。
Copilot 与裸 API：为编码智能体的「外壳」付费，到底买到了什么
GitHub 在 Copilot 改为按列表 API 费率计费之后，正面回答了「既然能直接调 API，为什么还要付 Copilot」——答案是你要自己拥有哪一层：模型调用本身，还是围绕它的编辑器、仓库、终端、组织策略与计费控制这一整套外壳。
适合 在评估自建智能体平台与采购现成工具的技术负责人、负责研发工具链选型与预算的工程管理者、设计智能体工作流与权限边界的架构师
Ollama v0.32.4：Apple GPU 上的 Laguna 支持与推测解码草稿量化
Ollama v0.32.4 通过 MLX 引擎为 Apple GPU 增加 Laguna 模型支持，让推测解码的草稿模型输出头按指定精度量化，并修复了 Qwen3 MoE 在专家量化精度不一致时的解码问题，打包的 gate/up 投影在 M5 Max 上提速约 4–9%...
适合 在 Apple 芯片上做本地推理的开发者、评估端侧部署可行性的架构师、关注推测解码实际收益的性能工程师
来源参考
#本期简报中已发布技术信号所代表的公开来源。
订阅简报
稳定的公开订阅源仅包含已发布的技术简报，草稿和已归档简报不在其中。