Model · 2026-08-10

Meta is back with Muse Glimmer: local, agentic, multimodal, and open source

Meta released Muse Glimmer, a 30B multimodal model distilled from Muse under Apache 2.0, designed for local agentic use, with day-0 support across transformers, llama.cpp and vLLM.

Hugging Face Blog2026-08-10About 3 min readWorth tracking

Marked important, but published more than 30 days ago, so it moved down to this band.

Frontier modelsOn-device AIAI agentsMultimodal+1
On this page12 sections

The full write-up and the editors' notes are in Chinese; the summary above is from the original announcement.

Record

The signal

#

发布了什么

Muse Glimmer 是 Meta 从自家 Muse 蒸馏出来的 300 亿参数多模态模型,采用 Apache 2.0 许可,明确面向本地智能体场景:隐私敏感的应用、降低成本,或者装配 Claw / Hermes 那类本地助手。发布当天即有 transformers、llama.cpp、vLLM 与 Inference Endpoints 的支持。

跑分里赢的部分

对比 Gemma4-31B 与 Qwen3.6-27B(均为 Thinking 模式),智能体类基准领先明显:

  1. MCP Atlas 75.5,对 54.2 与 62.5
  2. DeepSearch QA 74.6,对 61.7 与 71.1
  3. WildClawBench 47.6,对 37.6 与 43.2
  4. GAIA2 43.3,对 36.4 与 40.0
  5. SWE-Bench Pro 51.2,对 36.9 与 50.2

输的部分,以及为什么它更值得看

同一张表里有 5 项输给 Qwen3.6-27B,而且输的方向很集中:

  • OSWorld-Verified 65.9 对 75.6
  • TerminalBench 2.1 51.7 对 60.7
  • SkillsBench(带 Skills)44.3 对 46.6
  • GDPval-AA 953 对 1141
  • SWE-Bench Verified 76.0 对 77.2

赢的那些偏工具调用与检索,输的那些偏操作真实系统——桌面环境、终端会话。这个分野比总分有用:如果你的智能体主要在调 API、查资料,它是同级里最强的;如果它要去点桌面、跑终端,Qwen3.6-27B 目前更稳。

还有一个绝对值低到应该说出来:τ³-Banking 只有 23.5,而对手是 15.1 与 16.7。它赢了,但三家都远不及格——多轮、带约束的业务对话仍然是这一档开放模型共同的短板。

生态当天跟上了,但分了档

Ollama 同一天发布 v0.32.7 支持 Muse Glimmer,但只在 Apple Silicon 的 MLX 引擎上;NVIDIA 与 AMD 的支持要等 v0.32.8,发稿时那还是预发布版本。

这正是本站《模型与推理引擎的支持路径》那四级判据的现场:「支持」不是布尔值。当天能在 Mac 上跑起来,不等于能在生产的 NVIDIA 机器上跑起来,更不等于跑得快、跑得对。

蒸馏这次是主角,不是脚注

Muse Glimmer 本身就是蒸馏产物,而同一天 Hugging Face 上还有一篇系统论文在解决蒸馏本身的成本:把教师模型的 top-K logits 离线缓存,于是教师不必与学生同时占显存;再配一个分块融合的 KL 损失,避免物化「词表 × 序列长度」那张大矩阵。作者称这让长上下文的能力恢复训练能在单卡上完成。

把两件事放在一起读才完整:一个 30B 的开放权重模型能不能出现,取决于把大模型压小的成本降到了什么程度。

Why now

Why it matters

#

开放权重的智能体模型第一次把「本地跑得动」和「工具调用够强」做进了同一个 30B 模型,而且它公开承认自己在桌面与终端操作上落后——这让选型可以按任务形状做,而不是按总分做。

Background

Technical context

#

Muse Glimmer 从 Meta 的 Muse 蒸馏到 30B,Apache 2.0 许可,支持多模态工具调用、目标检测与推测解码(transformers 与 llama.cpp 两条路径)。它的公开基准表同时列出了赢的项与输的项,对比对象是 Gemma4-31B 与 Qwen3.6-27B 的 Thinking 模式。

At your level

Have AI explain this signal at your level

Pick your level of experience and AI writes an explanation for it on the spot.

Audience

Who should care

#
在本地或私有环境部署智能体的工程团队正在评估开放权重能否替代闭源 API 的技术决策者关注蒸馏与模型压缩路线的研究者
Areas it may affect
本地智能体部署开放权重模型选型推理引擎适配模型蒸馏与压缩

Next

Learning path

#
  1. 先读基准表里输的那 5 项,判断你的任务更像「调工具」还是「操作系统」
  2. 确认你的目标硬件属于哪一级支持:能加载、有原生建模、有性能路径、还是有正确性保障
  3. 在自己的任务上跑一次对照,不要直接采信厂商表格里的相对领先幅度

Getting started

Have AI draft a learning path

From the related knowledge and skills on this page, AI drafts a path from the basics to applying it.

Network

Where it sits in the network

#

How this signal connects to neighbouring technologies, skills and background knowledge. Follow any link to keep exploring.

Comparison

Compare with another technology

Pick another published technology and AI writes a comparison of what they share, how they differ and when to use each.

Further thought

Follow-up questions

#
  • τ³-Banking 只有 23.5,多轮带约束的业务对话还差在哪一步?
  • NVIDIA / AMD 的支持从预发布走到稳定要多久,期间的输出质量是否一致?
  • 离线 top-K 蒸馏能否被复现到其他开放模型上,还是依赖 Meta 的教师模型?

Publication record

Featured in

#

The briefings that carried this signal, newest first; the last row is the weekly review of its week. The tag is the section it ran in.

  1. 技术简报 - 2026-08-11

    Immediate attention

Sources

Hugging Face Blog

MetaBig tech2026-08-10
Open original sourcehttps://huggingface.co/blog/muse-glimmer