PyTorch2.1支持昇腾NPU！华为成为中国首个PyTorch基金会Premier会员

最新推荐文章于 2025-02-17 11:18:23 发布
最新推荐文章于 2025-02-17 11:18:23 发布
阅读量2.1k 收藏
点赞数
文章标签： 华为 pytorch 人工智能 python 深度学习
原文链接：https://mp.weixin.qq.com/s?__biz=MzUxNjcxMjQxNg==&mid=2247584736&idx=3&sn=4b847da1cd5d991b4dd53307ae6f751a&chksm=f9a0f96fced77079a48ea21277e127aaa746587a2d9b3ae4379b97008a7c2746b822d42c1299&scene=126&sessionid=0
版权

点击下方卡片，关注“CVer”公众号

AI/CV重磅干货，第一时间送达

点击进入—>【计算机视觉和PyTorch】交流群

9f09a0e07628139c1b2aa03b8857eb76.png

2023年10月18日（北京时间），PyTorch 基金会正式宣布华为作为Premier会员加入基金会，这也是中国首个、全球第十个PyTorch基金会最高级别会员。未来，华为将进一步与其他成员公司共同协作，加速PyTorch社区发展，为全球人工智能社区带来更多灵感和创新，共建开源新生态。

97f62477b5988bdfbd6afbda2a7448df.png

PyTorch 基金会是深度学习社区在开源 PyTorch 框架和生态系统上开展合作的中立家园。PyTorch 基金会由其成员和 PyTorch 开源项目的主要贡献者提供支持。

华为长期以来一直是PyTorch生态系统的支持者和贡献者，通过推进多样性算力支持与改进，帮助更多厂商后端能够更加轻松地接入PyTorch生态，并积极致力于PyTorch优化，从而充分释放昇腾的算力。

PyTorch社区最新发布的2.1版本，已同步支持昇腾NPU，并在华为的推动下，更新了更加完善的第三方设备接入机制。基于该特性，三方AI算力设备无需对原有框架代码进行修改就能对接PyTorch框架，昇腾也提供了官方认证的Torch NPU参考实现，可以指导三方设备便捷接入。基于新版本，用户可以在昇腾NPU上直接享受原生PyTorch的开发体验，获得高效运行在昇腾算力设备上的模型和应用。

“通过加入PyTorch基金会，我们可以进一步与其他成员公司共同协作，加速PyTorch社区的发展。”华为昇腾计算业务总裁张迪煊表示，“我们相信这对华为和 PyTorch 生态系统是互惠互利的，也符合我们长期以来开放创新，协作共赢的开源理念，为全球人工智能社区带来更多灵感和创新。”

“华为在计算机视觉、自然语言处理、语音识别等领域进行了广泛的研究，并且在大模型领域也积累了成熟的研究经验。我们相信 PyTorch 基金会将从他们对我们的成员和生态系统的支持中受益匪浅。”PyTorch 基金会执行董事 Ibrahim Haddad 说道。

2023年9月，在华为全联接大会2023上，华为发布全面智能化（All Intelligence）战略，通过持续的系统性创新，深耕AI根技术，坚持“硬件开放、软件开源、使能伙伴、发展人才”，以满足各行各业多样性的AI算力需求。这与 PyTorch 基金会的使命完美契合且相互补充，未来，华为将通过持续的技术贡献，不断推动PyTorch框架优化并拓展其生态，促进全球人工智能社区蓬勃发展。

点击进入—>【计算机视觉和Transformer】交流群

ICCV / CVPR 2023论文和代码下载

 
 
后台回复：CVPR2023，即可下载CVPR 2023论文和代码开源的论文合集
 
 
后台回复：ICCV2023，即可下载ICCV 2023论文和代码开源的论文合集
 
 
计算机视觉和PyTorch交流群成立
扫描下方二维码，或者添加微信：CVer444，即可添加CVer小助手微信，便可申请加入CVer-计算机视觉或者PyTorch 微信交流群。另外其他垂直方向已涵盖：目标检测、图像分割、目标跟踪、人脸检测&识别、OCR、姿态估计、超分辨率、SLAM、医疗影像、Re-ID、GAN、NAS、深度估计、自动驾驶、强化学习、车道线检测、模型剪枝&压缩、去噪、去雾、去雨、风格迁移、遥感图像、行为识别、视频理解、图像融合、图像检索、论文投稿&交流、PyTorch、TensorFlow和Transformer、NeRF等。
一定要备注：研究方向+地点+学校/公司+昵称（如计算机视觉或者PyTorch+上海+上交+卡卡），根据格式备注，可更快被通过且邀请进群
 
 
 
 
 
 
▲扫码或加微信号: CVer444，进交流群
CVer计算机视觉（知识星球）来了！想要了解最新最快最好的CV/DL/AI论文速递、优质实战项目、AI行业前沿、从入门到精通学习教程等资料，欢迎扫描下方二维码，加入CVer计算机视觉，已汇集数千人！

▲扫码进星球
 
 
 
 
▲点击上方卡片，关注CVer公众号
 
 
整理不易，请点赞和在看21b787dd993553e9167033f09bc502b4.gif
 


                

        

    

  



    


                



	

		

			

				
					
LLMs之NPU之Ascend之PyTorch：基于华为昇腾NPU设备实现PyTorch模型迁移和训练之单机多卡+混合精度训练手动迁移—导入支持库、参数配置、设备映射、进程管理、模型迁移、数据加载

				
			

			

				

					头部AI社区如有邀博主AI主题演讲请私信—心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，专注，谦虚，自律，反思，成长，还算比较正能量的博主，公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然，有点小情怀，也有点使命感呀
				

				

					11-12
					
					1345
					
				

			

		

		

			
				
​
LLMs之NPU之Ascend之PyTorch：基于华为昇腾NPU设备实现PyTorch模型迁移和训练之单机多卡+混合精度训练手动迁移—导入支持库、参数配置、设备映射、进程管理、模型迁移、数据加载、训练过程等多方面调整

目录

大模型软硬配置—对比英伟达GPU和华为NPU—适配方案细节

基于华为昇腾NPU设备实现PyTorch模型迁移和训练之单机多卡+混合精度训练手动迁移—导入支持库、参数配置、设备映射、进程管理、模型迁移、数据加载、训练过程等多方面调整



大模型软硬配置—对比英伟达GPU和华为

			
		

	



                

            
              



	

		

			

				
					
华为昇腾Ascend系列 之 03 如何查看服务器操作系统版本（教程含源码Ascend 910、Ascend 910B）

				
			

			

				

					iCloudEnd的博客
				

				

					06-03
					
					918
					
				

			

		

		

			
				
如何查看服务器操作系统版本。

			
		

	



              


  
              

                


	

		

			

				
					
基于Pytorch+昇腾NPU部署baichuan2-7B大模型

				
			

			

				

					XD的博客
				

				

					04-02
					
					4840
					
				

			

		

		

			
				
Baichuan 2 是百川智能推出的新一代开源大语言模型，采用2.6 万亿Tokens 的高质量语料训练。Baichuan 2 在多个权威的中文、英文和多语言的通用、领域 benchmark 上取得同尺寸最佳的效果。它基于 Transformer 结构，在大约1.2万亿 tokens 上训练的70亿参数模型，支持中英双语，上下文窗口长度为4096。项目地址预训练模型modelscope硬件要求：NPU：8 x Ascend NPUsModelLink旨在为华为昇腾芯片。

			
		

	





	

		

			

				
					
用pytorch+英伟达GPU电脑训练模型，intel ultra9 npu推理

				
			

			

				

					qq_42711801的博客
				

				

					02-17
					
					572
					
				

			

		

		

			
				
注：家里有一台带英伟达3070 8G电脑和一台intel ultra9 cpu的笔记本电脑。最近关注到npu，发现新买的笔记本带npu，于是尝试调用npu（听网上说这东西是0%利用）

			
		

	



		

			
		



	

		

			

				
					
华为Ascend众智计划项目--3DMPPE_ROOTNET--Pytorch模型迁移至NPU（二）

				
			

			

				

					KingGugu的博客
				

				

					10-13
					
					1488
					
				

			

		

		

			
				
系列文章目录
项目信息、本地GPU单卡复现：
华为Ascend众智计划项目–3DMPPE_ROOTNET–Pytorch模型迁移至NPU（一）
模型迁移——本地代码添加：
华为Ascend众智计划项目–3DMPPE_ROOTNET–Pytorch模型迁移至NPU（二）
文章目录系列文章目录前言一、模型迁移——本地代码添加1.添加prof、FPS、apex①prof②FPS③Apex2.添加DDP总结

前言
  本系列文章记录笔者在完成华为昇腾众智项目的主要过程、遇到的问题及解决方案等。Ascend 众智计

			
		

	





	

		

			

				
					
华为Ascend昇腾适配PyTorch框架

				
			

			

				

					IT菜鸟
				

				

					02-19
					
					8481
					
				

			

		

		

			
				
通常，开发者基于PyTorch框架开发的AI模型不能直接在昇腾AI处理器上运行（训练和推理），即运行在GPU上的PyTorch模型不能平滑迁移到昇腾AI处理器上运行。为此，本教程用于昇腾适配PyTorch框架，为使用PyTorch框架的开发者提供昇腾AI处理器的超强算力。PyTorch安装指南PyTorch Adapter插件，用于昇腾适配PyTorch框架，为使用PyTorch框架的开发者提供昇腾AI处理器的超强算力。

			
		

	





	

		

			

				
					
NPU上PyTorch模型训练问题案例

				
			

			

				

					m0_71340392的博客
				

				

					09-26
					
					8086
					
				

			

		

		

			
				
在昇腾AI处理器上训练PyTorch框架模型时，可能由于环境变量设置问题、训练脚本代码问题，导致打印出的堆栈报错与实际错误并不一致、脚本运行异常等问题，那么本期就分享几个关于PyTorch模型训练问题的典型案例，并给出原因分析及解决方法。

			
		

	





	

		

			

				
					
探索极致AI性能：昇腾NPU与PyTorch的完美融合 —— Ascend Extension for PyTorch

				
			

			

				

					gitblog_00067的博客
				

				

					06-09
					
					1880
					
				

			

		

		

			
				
探索极致AI性能：昇腾NPU与PyTorch的完美融合 —— Ascend Extension for PyTorch
去发现同类优质开源项目:https://gitcode.com/
项目简介
在人工智能领域，高效灵活的框架与强大的硬件加速器是实现先进算法的关键组合。 Ascend Extension for PyTorch 插件，即 torch_npu，正是这样一个解决方案，它无缝对接PyTo...

			
		

	





	

		

			

				
					
Ascend Adapter for PyTorch插件使昇腾NPU可适配PyTorch框架源代码

				
			

			

				

					03-07
				

			

		

		

			
				
本项目开发了名为torch_npu的Ascend Adapter for PyTorch插件，使得昇腾NPU可以与PyTorch框架兼容，为使用PyTorch框架的开发者提供了强大的昇腾AI处理器算力支持。通过这一插件，开发者可以充分利用昇腾处理器在AI...

			
		

	





	

		

			

				
					
【新教程】华为昇腾NPU的pytorch环境搭建

				
			

			

				

					整数浮点
				

				

					01-03
					
					2092
					
				

			

		

		

			
				
从以下网站，根据匹配结果下载：https://www.hiascend.com/developer/download/community/result?如果不知道用的是哪一个CANN，可以先Python一下，import torch这个包，然后看告警信息是哪个版本的。根据昇腾官方gitee上的信息，Pytoch 2.1.0是长期支持版本，因此选择安装这一版本，从而最大限度避坑。确定好CANN版本后，从下表中手动查找对应的torch_npu版本。2、在新建好的conda环境中，安装基础的依赖。

			
		

	





	

		

			

				
					
基于Pytorch+昇腾NPU开发大模型指导

				
			

			

				

					santanan的博客
				

				

					08-20
					
					5654
					
				

			

		

		

			
				
文章介绍了如何使用Pytorch框架+昇腾NPU更好的开发大模型

			
		

	





	

		

			

				
					
华为昇腾服务器npu中安装paddle,pytorch等环境，训练代码迁移适配等问题记录

				
			

			

				

					qq_29220369的博客
				

				

					01-03
					
					2994
					
				

			

		

		

			
				
参考文档：https://github.com/PaddlePaddle/PaddleCustomDevice/blob/develop/backends/npu/README_cn.md

			
		

	





	

		

			

				
					
【PyTorch总结】NPU与GPU上数据类型转换

				
			

			

				

					Gorgeous_wxd
				

				

					10-13
					
					3244
					
				

			

		

		

			
				
【PyTorch总结】NPU与GPU上数据类型转换。

			
		

	





	

		

			

				
					
pytorch-npu常用资料

				
			

			

				

					lzp_k2的专栏
				

				

					10-19
					
					1929
					
				

			

		

		

			
				
昇腾pytorch-NPU资料汇总

			
		

	





	

		

			

				
					
NPU迁移pytorch模型和性能调优

				
			

			

				

					lmlmlmj的博客
				

				

					05-12
					
					2888
					
				

			

		

		

			
				
NPU迁移和性能调优

			
		

	





	

		

			

				
					
【pytorch算子】torch.arange 算子在 CPU/GPU/NPU 中支持的数据类型格式

				
			

			

				

					qq_43799400的博客
				

				

					07-28
					
					3601
					
				

			

		

		

			
				
CPU（Central Processing Unit）：中央处理器
GPU（Graphics Processing Unit）：图形处理器
NPU（Neural Network Processing Unit）：神经网络处理器，是基于神经网络算法与加速的新型处理器总称。
一、 torch.arange() 和 torch.range()  的用法
pytorch官网介绍：
torch.arange(start,end,step) 用于产生一个从start开始,到end结束（注意不包括end），步长为ste

			
		

	





	

		

			

				
					
学习笔记：在华为昇腾NPU上进行深度学习项目【未完待续】

				
			

			

				

					qq_19072921的博客
				

				

					01-15
					
					4690
					
				

			

		

		

			
				
在华为昇腾NPU上调研深度学习项目

			
		

	





	

		

			

				
					
昇腾搭建PyTorch环境（训练）

				
			

			

				

					小白菜的博客
				

				

					11-11
					
					2138
					
				

			

		

		

			
				
如果服务器上有 N路NPU，回显N行含“d801”字段，表示NPU正常在位。

			
		

	





	

		

			

				
					
华为Ascend众智计划项目--3DMPPE_ROOTNET--Pytorch模型迁移至NPU（一）

				
			

			

				

					KingGugu的博客
				

				

					10-13
					
					3081
					
				

			

		

		

			
				
系列文章目录
提示：这里可以添加系列文章的所有文章的目录，目录需要自己手动添加
例如：第一章 Python 机器学习入门之pandas的使用

提示：写完文章后，目录可以自动生成，如何生成可参考右边的帮助文档
文章目录系列文章目录前言一、项目基本信息二、使用步骤1.引入库2.读入数据总结


前言
  本系列文章记录笔者在完成华为昇腾众智项目的主要过程、遇到的问题及解决方案等。Ascend 众智计划是华为围绕 Ascend 基础软件平台推出的一项生态合作计划，旨在汇聚高校、科研院所、企业等组织和机构的开发团

			
		

	





	

		

			

				
					
PyTorch版本与昇腾NPU驱动的版本对应

					
最新发布

				
			

			

				

					04-04
				

			

		

		

			
				
<think>好的，我现在需要处理用户关于PyTorch版本与昇腾NPU驱动版本对应的问题。首先，我得回忆一下用户之前的问题是关于在昇腾NPU上使用torchvision.transforms速度变慢的情况，而这次用户想了解PyTorch和昇腾驱动的版本对应关系。这可能是因为用户遇到了兼容性问题，导致性能下降或功能异常，所以需要确认版本匹配。

接下来，我应该先整理昇腾NPU的相关信息。华为昇腾的软件栈中，CANN（Compute Architecture for Neural Networks）是关键组件，负责硬件和深度学习框架之间的桥梁。PyTorch在昇腾上的支持通常通过插件或适配层实现，比如torch_npu这样的库。因此，版本对应关系主要涉及PyTorch、CANN和torch_npu这三个部分。

我需要查阅华为昇腾的官方文档，确认各个版本之间的兼容性。比如，用户可能想知道特定版本的PyTorch需要哪个版本的CANN和驱动。例如，CANN 7.0可能支持PyTorch 1.8到1.11，而CANN 6.3则支持更早的版本。同时，torch_npu的版本也需要与PyTorch和CANN匹配，否则会出现兼容性问题。

用户可能的需求是确保他们安装的PyTorch版本与昇腾驱动完全兼容，以避免运行时错误或性能问题。他们可能在安装过程中遇到了版本不匹配的报错，或者在运行模型时发现某些功能无法使用，因此需要明确的版本对应指导。

我还需要考虑到用户的环境配置，比如操作系统、Python版本等，这些也可能影响兼容性。不过用户的问题主要集中在PyTorch和昇腾驱动上，所以应重点放在这两个部分。此外，用户可能需要知道如何检查当前安装的版本，以及如何获取正确的版本组合。

另外，用户可能对如何升级或降级软件版本有疑问，所以需要提供相关的命令或步骤，比如使用pip安装特定版本的PyTorch，或者通过华为提供的渠道获取torch_npu包。同时，提醒用户注意依赖关系，例如某些CANN版本可能需要特定的固件或驱动版本，这需要系统管理员权限才能更新。

最后，应该总结版本对应的重要性，并建议用户定期查看华为的官方文档，以获取最新的兼容性信息，因为随着软件更新，支持的版本可能会发生变化。同时，如果用户遇到问题，建议他们提供详细的版本信息以便进一步排查。</think>以下是关于PyTorch版本与华为昇腾NPU驱动（CANN）版本的对应关系的详细介绍：

---

### 一、PyTorch与昇腾NPU的兼容性核心组件
华为昇腾NPU对PyTorch的支持主要通过以下组件实现：
1. **CANN（Compute Architecture for Neural Networks）**  
   昇腾AI处理器的统一软件栈，负责硬件加速和算子优化。
2. **PyTorch插件（`torch_npu`）**  
   华为提供的PyTorch扩展库，将PyTorch操作映射到昇腾NPU硬件。
3. **昇腾驱动（固件）**  
   硬件底层的驱动程序，与CANN版本绑定。

**三者必须版本匹配**，否则会导致功能异常或性能下降。

---

### 二、版本对应关系（截至2023年10月）
以下是常见版本对应示例（具体以[昇腾官方文档](https://ascend.huawei.com/zh/#/software/cann)为准）：

| PyTorch版本 | CANN版本     | `torch_npu`版本 | 备注                     |
|-------------|-------------|----------------|--------------------------|
| 2.1.0       | CANN 7.0    | 2.1.0          | 最新版本，支持动态Shape   |
| 1.11.0      | CANN 6.3.RC2| 1.11.0         | 支持静态图优化           |
| 1.8.1       | CANN 5.1    | 1.8.1          | 旧版本兼容               |

**注意**：
- **CANN版本与驱动强绑定**：例如，CANN 7.0需搭配固件驱动版本≥1.0.12。
- **操作系统限制**：部分CANN版本仅支持特定Linux发行版（如Ubuntu 18.04/20.04、CentOS 7.6+）。

---

### 三、版本验证与安装指南

#### 1. **检查当前环境版本**
   - **查看CANN版本**：
     ```bash
     cat /usr/local/Ascend/ascend-toolkit/latest/acllib/include/version.json
     ```
   - **查看PyTorch和`torch_npu`版本**：
     ```python
     import torch, torch_npu
     print(torch.__version__)      # PyTorch版本
     print(torch_npu.__version__)  # torch_npu插件版本
     ```

#### 2. **安装匹配版本**
   - **PyTorch与`torch_npu`**：
     ```bash
     # 示例：安装PyTorch 1.11.0 + torch_npu 1.11.0
     pip install torch==1.11.0
     pip install torch_npu==1.11.0 --extra-index-url=https://ascend-repo.obs.cn-east-2.myhuaweicloud.com/repository/pypi/simple/
     ```
   - **CANN与驱动**：  
     需从[昇腾社区](https://ascend.huawei.com/zh/#/software)下载对应版本的驱动包，通过`npu-smi`工具安装。

---

### 四、常见问题与解决
1. **报错`No module named 'torch_npu'`**  
   - 原因：未安装或版本不匹配。
   - 解决：通过华为源安装指定版本的`torch_npu`。

2. **NPU设备未识别**  
   - 检查驱动状态：
     ```bash
     npu-smi info
     ```
   - 确认`LD_LIBRARY_PATH`包含昇腾库路径：
     ```bash
     export LD_LIBRARY_PATH=/usr/local/Ascend/driver/lib64:$LD_LIBRARY_PATH
     ```

3. **性能低下或算子不支持**  
   - 升级CANN至最新版本，确保使用优化后的算子库。
   - 使用`torch_npu.optimize()`启用混合精度优化：
     ```python
     import torch_npu
     model = torch_npu.optimize(model)  # 自动优化模型计算图
     ```

---

### 五、版本升级建议
1. **稳定性优先**：生产环境建议使用官方验证的稳定版本组合（如CANN 7.0 + PyTorch 2.1.0）。
2. **关注更新日志**：华为昇腾会定期发布版本更新，修复已知问题并优化性能。
3. **测试验证**：升级前在开发环境中验证模型兼容性与性能。

---

如需获取实时版本兼容性信息，请访问：  
[华为昇腾CANN版本说明](https://ascend.huawei.com/zh/#/software/cann/community)

			
		

	



              




          




        



    





    



      

      

        
      

      





	

		评论	
	

	
	




  

    

      添加红包
      
    

    

      

        
        

          
          
        

        
请填写红包祝福语或标题

      

      

        
        

          
          个
        

        
红包个数最小为10个

      

      

        
        

          
          元
        

        
红包金额最低5元

      

      

        
        

          当前余额3.43元
          前往充值 >
        

      

      

        

          需支付：10.00元
        

        
        
      

    

  





  

    
    
  

  

    
    
  








  

    

      

        

          

            
            
成就一亿技术人!

          

          

        

        

          

          

            领取后你会自动成为博主和红包主的粉丝
            规则
          

        

      

      

        

          

            
              
            
            

              
hope_wisdom
 发出的红包
            

          

        

        

          

          

          

        

      

    

    

  



      
      

      
实付元

      
使用余额支付

      

        

          

            
            点击重新获取
          

        

        
扫码支付

      

      

        
          
            
          
          
        
      

      

        
        钱包余额
          0
          

            
            

              

                
抵扣说明：

                
 1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
 2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

              

            

          

      

      余额充值