【2023 · CANN训练营第一季】Pytorch模型的迁移和调优

1. Pytorch模型的迁移和调优

昇腾NPU是AI算力的后起之秀，但目前训练和在线推理脚本大多是基于GPU的。由于NPU与GPU的架构差异，基于GPU的训练和在线推理脚本不能直接在NPU上使用。在这一部分，首先介绍了pytorch的在线对接方案，以及达芬奇架构的计算单元，和Ascend-pytorch的安装。

对于和pytorch的对接，CANN采用的是在线对接适配方案，其特性及优点

- 最大限度的继承PyTorch框架动态图的特性

- 最大限度的继承原生PyTorch上的使用方式，用户在移植到异腾AI处理器设备上时在开发方式和代码重用方面做到最小的改动

- 最大限度的继承PyTorch原生的体系结构保留框架本身出色的特性，比如自动微分动态分发、Debug、Profiling、Storage共享机制以及设备侧的动态内存管理等.

- 扩展性好。在打通流程的通路之上，对于新增的网络类型或结构，只需涉及相关计框架类算子，反算类算子的开发和实现向图建立和实现机制等结构可保持复用。