工具 · 第 2026-09-30 号

DeepSeek 开源昇腾版 DeepGEMM 等组件:接口与 NVIDIA 版相同

DeepSeek 9 月 30 日开源了一组跑在华为昇腾上的基础组件:算子编译工具 TileLang 的昇腾支持、矩阵乘法库 DeepGEMM-Ascend、专家并行通信库 DeepEP-Ascend,以及 TileKernels、FlashMLA、DeepSelect 等算子。DeepGEMM-Ascend 按 MIT 许可发布,与原版 DeepGEMM 接口完全兼容,在昇腾 950DT 上实测 BF16 达到 431 TFLOPS(硬件利用率 99.8%),FP4 达到 1701 TFLOPS。目前只在 950 系列上开发和验证,没有提到 910B / 910C。

InfoQ 中文2026-09-30约 3 分钟读完值得跟踪

编辑标为重要,发布已满 30 天,从立即关注降到这一档。

推理与部署
本页目录11 节

记录

信号正文

#

发生了什么

9 月 30 日 DeepSeek 开源了一组昇腾平台的基础设施组件。InfoQ 与量子位当天都有报道,DeepGEMM-Ascend 的细节来自它的 GitHub 仓库说明。

开源了什么

  • TileLang:算子编译工具,用高级语言写算子;DeepSeek 称 V4 系列训练中大部分算子由它实现
  • DeepGEMM-Ascend:矩阵乘法加速,支持 BF16、FP8、FP4
  • DeepEP-Ascend:跨设备通信,负责专家并行的 all-to-all
  • TileKernels:常用算子库,包括 MoE 路由、量化、位置编码
  • FlashMLA:稀疏注意力计算加速
  • DeepSelect:TopK 筛选算子

这一组覆盖了训练和推理一个 MoE 模型时最常用的几块:矩阵乘法、专家之间的通信、注意力、路由。

DeepGEMM-Ascend 的数字

  • 许可:MIT,2026-09-30 首次发布
  • 与原版 DeepGEMM 接口完全兼容,包名和开发流程一致
  • 在昇腾 950DT、CANN 9.20 上实测:BF16 为 431 TFLOPS,硬件利用率 99.8%;FP4 为 1701 TFLOPS,利用率 98.3%
  • 只在 950 系列上开发和验证;仓库说明里没有提到 910B 或 910C

利用率接近 100% 说明算子本身已经把这块芯片的矩阵单元用满了。它回答不了的是整机和集群层面的问题:通信、显存带宽、调度。那些要看 DeepEP-Ascend 和实际训练的吞吐,这次没有公布。

为什么值得注意

在英伟达生态里,这类算子库是芯片厂商或社区多年积累出来的。DeepSeek 这次把自己训练用的那一套直接移植到昇腾上并开源,接口还和英伟达版本一致。对想在国产芯片上跑 MoE 的团队,这一步把「重写算子」变成了「换一个包」。前提是你用的是 950 系列。

对读者意味着什么

  1. 如果你在昇腾 950 上做训练或推理,可以先把 DeepGEMM 换成 Ascend 版,在自己的形状上量一次利用率。
  2. 如果你用的是 910 系列,先确认支持情况,目前说明里没有写。
  3. 算子利用率高不等于模型跑得快;端到端的吞吐,要等真实训练的数字。

为什么是现在

为什么重要

#

在英伟达之外的芯片上训练和推理大模型,最大的成本往往是重写算子。DeepSeek 把自己训练用的矩阵乘法、专家通信和注意力算子移植到昇腾并开源,接口还与英伟达版本一致。对用昇腾 950 的团队,这把重写变成了换包;但目前只验证了 950 系列,端到端吞吐也还没有数字。

背景

技术背景

#

算子是模型计算的最小单元,比如矩阵乘法、注意力、专家之间的数据交换。同一个模型换一种芯片,往往要为这些算子重新写高性能实现。硬件利用率指实际算力占芯片理论峰值的比例,接近 100% 说明这个算子已经把芯片的计算单元用满;整体训练速度还取决于通信、显存带宽和调度。

按你的水平解读

让 AI 按你的水平解读这个信号

选择你的经验水平,AI 会现场生成一份为这个水平定制的解读。

关注人群

谁该关注

#
在昇腾芯片上训练或部署 MoE 模型的团队负责推理引擎与硬件适配的基础设施工程师评估国产算力替代方案的技术决策者
可能影响的领域
硬件适配推理成本MoE 训练

下一步

学习路径

#
  1. 读《混合专家模型(MoE)架构》,理解专家并行为什么需要 all-to-all 通信
  2. 读《模型量化与数值精度》,了解 BF16、FP8、FP4 的取舍
  3. 读本站 DeepSeek DSec 那条信号,看它的训练基础设施的另一半
  4. 如果你用昇腾 950,把 DeepGEMM 换成 Ascend 版,在自己的矩阵形状上量一次利用率

怎么学起

让 AI 生成一条学习路径

基于本页的相关知识和相关技能,AI 会现场生成一条从基础到应用的学习路径。

关系网络

在技术网络中的位置

#

当前技术与相邻技术、技能和背景知识的连接,点击节点可继续探索。

技术对比

对比另一项技术

选择另一项已发布技术,让 AI 现场生成一份相似点、差异点和适用场景的对比。

延伸思考

后续问题

#
  • 你用的是昇腾 950 还是 910 系列?目前只验证了 950。
  • 你的训练瓶颈在矩阵乘法、通信还是显存?这组算子解决的是哪一个?
  • 接口兼容之后,你的代码里还有多少英伟达专用的部分?

发布记录

收录于

#

收录这条信号的技术简报,新的在前;最后一行是它那一周的周回顾。标签是它在那一期所在的栏目。

来源参考

InfoQ 中文

DeepSeek创业公司2026-09-30
打开原始来源https://www.infoq.cn/article/t5i2Yv2z0LwIbK36lteR?utm_source=rss&utm_medium=article