DeepSeek 开源昇腾版 DeepGEMM 等组件:接口与 NVIDIA 版相同
DeepSeek 9 月 30 日开源了一组跑在华为昇腾上的基础组件:算子编译工具 TileLang 的昇腾支持、矩阵乘法库 DeepGEMM-Ascend、专家并行通信库 DeepEP-Ascend,以及 TileKernels、FlashMLA、DeepSelect 等算子。DeepGEMM-Ascend 按 MIT 许可发布,与原版 DeepGEMM 接口完全兼容,在昇腾 950DT 上实测 BF16 达到 431 TFLOPS(硬件利用率 99.8%),FP4 达到 1701 TFLOPS。目前只在 950 系列上开发和验证,没有提到 910B / 910C。
Marked important, but published more than 30 days ago, so it moved down to this band.
On this page11 sections
This signal comes from a Chinese-language source and is written in Chinese.
Record
The signal
#发生了什么
9 月 30 日 DeepSeek 开源了一组昇腾平台的基础设施组件。InfoQ 与量子位当天都有报道,DeepGEMM-Ascend 的细节来自它的 GitHub 仓库说明。
开源了什么
- TileLang:算子编译工具,用高级语言写算子;DeepSeek 称 V4 系列训练中大部分算子由它实现
- DeepGEMM-Ascend:矩阵乘法加速,支持 BF16、FP8、FP4
- DeepEP-Ascend:跨设备通信,负责专家并行的 all-to-all
- TileKernels:常用算子库,包括 MoE 路由、量化、位置编码
- FlashMLA:稀疏注意力计算加速
- DeepSelect:TopK 筛选算子
这一组覆盖了训练和推理一个 MoE 模型时最常用的几块:矩阵乘法、专家之间的通信、注意力、路由。
DeepGEMM-Ascend 的数字
- 许可:MIT,2026-09-30 首次发布
- 与原版 DeepGEMM 接口完全兼容,包名和开发流程一致
- 在昇腾 950DT、CANN 9.20 上实测:BF16 为 431 TFLOPS,硬件利用率 99.8%;FP4 为 1701 TFLOPS,利用率 98.3%
- 只在 950 系列上开发和验证;仓库说明里没有提到 910B 或 910C
利用率接近 100% 说明算子本身已经把这块芯片的矩阵单元用满了。它回答不了的是整机和集群层面的问题:通信、显存带宽、调度。那些要看 DeepEP-Ascend 和实际训练的吞吐,这次没有公布。
为什么值得注意
在英伟达生态里,这类算子库是芯片厂商或社区多年积累出来的。DeepSeek 这次把自己训练用的那一套直接移植到昇腾上并开源,接口还和英伟达版本一致。对想在国产芯片上跑 MoE 的团队,这一步把「重写算子」变成了「换一个包」。前提是你用的是 950 系列。
对读者意味着什么
- 如果你在昇腾 950 上做训练或推理,可以先把 DeepGEMM 换成 Ascend 版,在自己的形状上量一次利用率。
- 如果你用的是 910 系列,先确认支持情况,目前说明里没有写。
- 算子利用率高不等于模型跑得快;端到端的吞吐,要等真实训练的数字。
Why now
Why it matters
#在英伟达之外的芯片上训练和推理大模型,最大的成本往往是重写算子。DeepSeek 把自己训练用的矩阵乘法、专家通信和注意力算子移植到昇腾并开源,接口还与英伟达版本一致。对用昇腾 950 的团队,这把重写变成了换包;但目前只验证了 950 系列,端到端吞吐也还没有数字。
Background
Technical context
#算子是模型计算的最小单元,比如矩阵乘法、注意力、专家之间的数据交换。同一个模型换一种芯片,往往要为这些算子重新写高性能实现。硬件利用率指实际算力占芯片理论峰值的比例,接近 100% 说明这个算子已经把芯片的计算单元用满;整体训练速度还取决于通信、显存带宽和调度。
Audience
Who should care
#Next
Learning path
#- 读《混合专家模型(MoE)架构》,理解专家并行为什么需要 all-to-all 通信
- 读《模型量化与数值精度》,了解 BF16、FP8、FP4 的取舍
- 读本站 DeepSeek DSec 那条信号,看它的训练基础设施的另一半
- 如果你用昇腾 950,把 DeepGEMM 换成 Ascend 版,在自己的矩阵形状上量一次利用率
Network
Where it sits in the network
#How this signal connects to neighbouring technologies, skills and background knowledge. Follow any link to keep exploring.
Further thought
Follow-up questions
#- 你用的是昇腾 950 还是 910 系列?目前只验证了 950。
- 你的训练瓶颈在矩阵乘法、通信还是显存?这组算子解决的是哪一个?
- 接口兼容之后,你的代码里还有多少英伟达专用的部分?
Publication record
Featured in
#The briefings that carried this signal, newest first; the last row is the weekly review of its week. The tag is the section it ran in.
技术简报 - 2026-10-02
Immediate attentionWeekly review · Sep 28 – Oct 4
Worth tracking
Sources