DeepSeek开放华为昇腾核心AI库支持
通过支持华为昇腾950芯片,实现与英伟达的战略脱钩
概览
为多元化其硬件依赖,DeepSeek 已开源了适配华为昇腾架构的核心 AI 训练与推理库版本。这一发展有效降低了该公司对 NVIDIA 硬件的依赖,标志着在快速发展的开源人工智能领域的战略转向。
此次发布包含四个关键组件:DeepGEMM、DeepEP、TileLang 和 FlashMLA。这些库构成了支撑 DeepSeek 高性能模型的基础软件栈。通过使这些工具可用于昇腾芯片,该公司为更广泛的开发者社区提供了在不牺牲性能的情况下在非 NVIDIA 硬件上训练和运行模型的手段。
硬件生态的战略转型
该公告表明 DeepSeek 有意将其技术进步与 NVIDIA 供应链脱钩。多年来,人工智能行业一直严重依赖 NVIDIA GPU,特别是在高性能计算任务方面。然而,供应限制、地缘政治紧张局势以及不断上涨的成本已促使许多领先的人工智能实验室探索替代硬件解决方案。
DeepSeek 优先支持华为昇腾的决定直接应对了这些挑战。昇腾 950 系列作为华为的旗舰 AI 处理器,提供了 NVIDIA 最新产品的可行替代方案。通过在库级别确保兼容性,DeepSeek 降低了其他研究人员和组织采用华为硬件的门槛。
此举也与开源 AI 社区日益增长的趋势相一致。随着模型变得更为复杂且资源密集,针对不同硬件架构优化软件的能力正成为关键竞争优势。DeepSeek 的贡献有助于实现高性能 AI 基础设施获取的民主化,减少任何单一硬件供应商的垄断地位。
技术突破与性能指标
在发布的库中,DeepGEMM 是最关键的组件。它充当每个 DeepSeek 模型背后的矩阵数学引擎,处理训练和推理所需的基础线性代数运算。针对新架构优化此引擎是一项重大的工程成就。
DeepGEMM 的昇腾端口旨在保持与 NVIDIA 版本的 API 兼容性。这一设计选择确保了开发者只需最小化代码修改即可切换硬件后端,从而保持工作流程的连续性。此外,该库支持多种精度格式,包括 BF16、FP8 和 FP4,这对于在现代 AI 芯片上最大化吞吐量并最小化内存使用至关重要。
华为提供的性能基准测试显示出强劲的结果。在使用 V4.1-Flash 配置的离线测试中,系统达到了每张卡每秒 2,469 个输出 token 的吞吐量。这一指标突显了优化内核的效率,证明华为硬件能够为大规模语言模型服务提供具有竞争力的性能。
对模型服务成本的影响
更快的计算内核直接转化为更低的运营成本。当每张芯片每秒能处理更多的 token 时,用于服务模型的整体基础设施需求就会减少。这种效率对于经常在预算紧张情况下运营的开源 AI 项目的可持续性至关重要。
通过在昇腾硬件上实现高性能服务,DeepSeek 有助于推动运行复杂 AI 模型的降价。这种向更低模型服务成本的趋势使生态系统中的每个人都受益,从独立开发者到大型企业。它还鼓励硬件与软件协同设计的进一步创新,因为各供应商竞争提供每瓦特和每美元的最佳性能。
展望未来
这些库的开源预计将加速华为昇腾硬件在全球 AI 研究社区的采用。随着更多开发者测试和优化这些工具,反馈循环可能会带来进一步的优化和稳定性改进。
这一发展并不一定意味着 NVIDIA 在 AI 硬件市场的主导地位终结。然而,它牢固确立了华为作为严肃 AI 工作负载的可信替代方案。对于 DeepSeek 而言,这一策略确保了抵御供应链中断的韧性,并将公司定位为硬件无关 AI 工程的领导者。
随着人工智能领域的不断成熟,能够在多样化的硬件平台上构建高效、可扩展系统的能力将变得越来越重要。DeepSeek 的最新贡献树立了先例,展示了开源模型如何在多厂商硬件环境中蓬勃发展。
参考来源
- 1
DeepSeek Opens Huawei Ascend Support for Core AI Libraries
https://x.com/charliejhills/status/2107031448951882068
文中提到的工具
GEO Radar
https://geodetect.io
Gromore
https://gromore.io
BrandMagnet
https://brandmagnet.ai
Claude Citation Tracker
https://citation.tracker
Ahrefs
https://ahrefs.com
SEMrush
https://semrush.com
Moz Pro
https://moz.com
SpyFu
https://spyfu.com
SERPstat
https://serpstat.com
Ubersuggest
https://ubersuggest.com