DeepSeek适配昇腾950:推理已落地,训练仍在攻坚
9月30日集中发布七项基础设施更新,GEMM算力利用率突破99.8%

概述
9月30日,DeepSeek 官方并未发布新的预训练模型,但围绕其核心模型适配华为昇腾950(Ascend 950)基础设施的一系列重大进展正式发布。此次更新涵盖了从底层矩阵运算到上层模型架构的七个关键项目,标志着 DeepSeek 在国产算力集群上的部署取得了阶段性突破。
此次发布的重点在于优化了矩阵乘法、稀疏注意力机制以及MoE(混合专家)通信等核心组件的编译运行时支持。这意味着 DeepSeek 的旗舰模型已经能够在昇腾950硬件上实现高效的推理服务,为后续的大规模商业化落地奠定了坚实基础。
推理落地:性能接近理论极限
根据 DeepSeek 官方仓库披露的技术细节,当前的适配工作已在推理环节率先取得实质性成果。经过深度的算子优化,DeepSeek 在昇腾950上的 GEMM(通用矩阵乘法)性能已攀升至理论峰值算力的 99.8%。这一数据表明,底层硬件的计算潜力得到了近乎完全的释放,大幅减少了因软件栈开销导致的性能损耗。
“此次 GEMM 性能突破 99.8%,意味着我们在算子层面的优化已趋于成熟,能够为上层应用提供稳定且高效的算力支撑。” —— DeepSeek 技术团队
除了 dense 模型的优化,此次更新还重点解决了稀疏注意力(Sparse Attention)的兼容性问题。对于像 DeepSeek-V3 这样采用长上下文窗口的大型模型,稀疏注意力机制能够显著降低显存占用并提升处理速度。目前,该功能已在昇腾950集群上完成验证,推理延迟较此前有了显著改善。
训练攻坚:MoE 通信与编译优化
尽管推理侧进展顺利,但训练环节的适配仍在紧锣密鼓地进行中。DeepSeek 的 V3 和 R1 系列模型采用了复杂的 MoE 架构,这对分布式训练中的节点间通信提出了极高要求。此次发布的更新中,针对 MoE 通信协议的优化是攻坚的重点之一。
具体而言,团队对编译运行时(Compiler Runtime)进行了重构,以更好地适配昇腾 CANN 软件栈。这包括优化 All-to-All 通信模式,以减少专家路由过程中的网络拥塞,并提升多卡互联下的并行效率。虽然训练性能尚未达到推理侧的水平,但核心通信瓶颈已取得初步缓解,预计将在近期进一步开放训练能力的测试版本。
未来展望
此次批量更新不仅体现了 DeepSeek 对国产算力生态的高度重视,也展示了双方在异构计算优化上的深度协作。随着推理能力的成熟,预计将有更多基于 DeepSeek 模型的推理服务上线昇腾950集群,为用户提供更低的延迟和更高的并发处理能力。而在训练端,随着通信优化的深入,未来有望实现端到端的自主可控训练闭环,进一步丰富国产 AI 发展的技术底座。
参考来源
- 1
DeepSeek适配昇腾950:推理已落地,训练仍在攻坚
https://x.com/whycallqq/status/2105855425417789813
文中提到的工具
DeepSeek Chat
https://chat.deepseek.com
Purshow/Purshow_N
https://github.com/Purshow/Purshow_N
omdsh-dev/DSH-bet
https://github.com/omdsh-dev/DSH-bet
tonyd2wild/DeepSe
https://github.com/tonyd2wild/DeepSe
DeepSeek
https://deepseek.com/?utm_source=ai-bot.cn

问小白
https://www.wenxiaobai.com/?utm_source=ai-bot.cn
deepseek-ai/deeps
https://github.com/deepseek-ai/deeps
MiaAI-Lab/DeepSee
https://github.com/MiaAI-Lab/DeepSee
deepseek-ai/DeepG
https://github.com/deepseek-ai/DeepG
Jecvay/paseo-dsh-
https://github.com/Jecvay/paseo-dsh-