对标英伟达CUDA，华为宣布开源CANN

8月5日，在昇腾计算产业发展峰会上，华为轮值董事长徐直军宣布，华为昇腾硬件使能CANN全面开源开放，Mind系列应用使能套件及工具链全面开源，支持用户自主的深度挖潜和自定义开发，加速广大开发者的创新步伐，让昇腾更好用、更易用。

“华为AI战略的核心是算力，并坚持昇腾硬件变现。”他说道。

CANN的全称是“神经网络异构计算架构”（Compute Architecture for Neural Networks），它的角色，是把上层AI训练框架（如PyTorch、TensorFlow、MindSpore等）和底层昇腾芯片连接起来的桥梁，让开发者不用关心芯片细节就能调用底层算力。

与CANN作用类似的，还有英伟达的CUDA和AMD的ROCm，以及中国摩尔线程的MUSA、壁仞科技的BIRENSUPA、寒武纪的Neuware和海光信息的DTK等等。但最知名和影响力最大的还是英伟达的CUDA，它与英伟达GPU和NVlink构成英伟达的核心护城河。

AI全栈软硬件架构

CUDA并不是单点技术，而是由多种技能栈和算子加速库等组成的软件生态系统。

“CUDA生态系统埋藏着巨大的迁移成本，它充当PyTorch和英伟达GPU之间的桥梁。从CUDA迁移的开发者通常必须重写大量代码，被迫使用不太成熟的替代库。此外，开发者还会失去围绕CUDA发展起来的庞大故障排除社区的支持。”有行业人士对观察者网说道。

换言之，英伟达GPU之所以受欢迎，并不仅是因为硬件的性能高，同时也因为CUDA软件系统生态的完善，让开发者可以更高效的发挥GPU本身的性能，降低使用成本。

华为在制裁前后发展了自己的昇腾芯片，虽然昇腾是NPU架构，但也需要CANN来发挥“CUDA”的角色。与CANN配套的是华为自研深度学习框架MindSpore，其作用类似于PyTorch，这些工具共同构成了华为原生的AI软硬件方案，以对标以英伟达为中心的PyTorch+CUDA方案。

2024年财报披露，华为持续构建昇腾产品解决方案在性能、易用性、开放生态等方面的竞争力，CANN升级到8.0版本，新增200多个深度优化的基础算子、80多个融合算子、100多个Ascend C API，典型算子开发周期从2人月缩短至1.5人周......同时支持图模式能力扩展库，提升PyTorch在昇腾上的大模型推理性能。

为了扩大生态圈，CANN逐步兼容了更多AI框架。截至目前，CANN已支持包括PyTorch、MindSpore、TensorFlow、飞桨、ONNX、计图、OpenCV和OpenMMLab等深度学习框架与第三方库。

华为专家还对观察者网表示，“我们坚持CANN实现分层深度开放，从最底层的算子开发层，到模型开发层、推理层，进一步兼容三方开源框架，让运行在三方框架、推理引擎上的模型/应用迁移至昇腾无需修改。面向应用开发层，我们将面向应用开发提供更多SDK，让应用部署更便捷，模型训练和推理更高效。”