v0.30.0

规模

这一版有 762 个提交、315 位贡献者，其中 104 位是新人。本站没有收录 v0.29.0（那一轮 github.com 时通时断，没能核对），所以这条接在 v0.27.0 之后。

四件值得看的

• 快速启动：每块 GPU 一个常驻的权重缓存守护进程，持有已经量化、已按张量并行切好的权重。引擎重启时用 --load-format ipc_cache 经 CUDA IPC 直接映射，不再从磁盘重新加载；覆盖 FP4 检查点和多节点张量并行。
• 水印：Gumbel-max 水印的生成与检测，带密钥的伪随机函数，可按请求关闭，附一个检测端点示例；双密钥的版本与推测解码兼容。
• HiSparse：稀疏 MLA 解码的主机内存层。显存吃紧时把 KV 页溢出到固定的主机内存，每个请求的 GPU 热缓冲负责 top-k 未命中。
• Model Runner V2：图捕获期间冻结垃圾回收，捕获从 12 秒降到 2 秒，H200 上引擎初始化从 28.9 秒降到 8.2 秒；另修复了一个让强化学习单步耗时约翻倍的回退。

新模型

DeepSeek-V4.1-Flash（整个 KV 以 MXFP8 存储）、DeepSeek-V4-Flash-Vision-Exp、GLM-5.3-Flash、K2-Horizon、Cohere Compass 等；另有一串 Kimi K3 的性能补丁，其中一项带来 5.2% 到 7.7% 的端到端吞吐提升。本站 7 月收录的 Kimi K3，至此在 vLLM 里有了原生的默认实现路径。

升级前要看的破坏性变更

• 横向扩展端点改为显式开关 --enable-scale-out，替代原来的环境变量。
• 移除 GPTQ 的激活排序（g_idx）。
• 0.29 标记弃用的两个环境变量已删除，改用配置字段。
• gRPC 服务入口弃用，改用 vllm serve --grpc。
• YaRN 与 Transformers 对齐，厂商的 YaRN 别名不再改写 max_model_len。
• 默认 CUDA 13.0，默认音频重采样器换成 torchaudio。

为什么值得注意

快速启动改的是运维节奏。版本升级、调配置、故障恢复都要重启引擎，而大模型从磁盘加载量化权重可能要几分钟；把重启从「重新加载」降成「重新映射」，重启就从一件要排窗口的事变回一件随手的事。

水印则是第一次作为一个开源推理引擎的通用功能出现，而不是某家托管平台的私有能力。它能证明的只是「这段文本出自带同一把密钥的这套部署」，前提是密钥被妥善保管、生成时没有被关掉。