这一节涉及一些实操的内容,但我的电脑还没有配置好,所以先看知识性的内容,以后弄好了填坑
Ascend-PyTorch
课程目标
- 了解PyTorch与昇腾平台的适配
- 了解Davinci硬件架构
- 了解什么样的模型在昇腾上更亲和
- 了解软件术语
- 了解Ascend-PyTorch的安装步骤
- 了解如何将原生的PyTorch模型代码适配至Ascend-PyTorch
PyTorch
- 在线对接适配方案
- 最大限度继承pytorch框架动态图的特性
- 最大限度继承原生pytorch上的使用方式:最小的开发方式和代码的重用
- 最大限度继承pytorch原生的体系结构
- 扩展性好,对于新的网络类型或结构,只涉及相关计算类算子的开发和实现,对于框架类的算子可以复用
达芬奇架构
- 计算单元
- Cube:
- 矩阵运算
- fp16的16×16与16×16的矩阵乘
- 相关操作:matmul、conv2d、linear
- Vextor:
- 向量运算
- 算力低于Cube,但灵活性高
- 计算类型:fp16、fp32、int8
- Scalar:
- 各类型的标量数据运算&程序的流程控制
- 功能上类似于小的CPU
- Cube:
软件架构
Ascend-PyTorch安装
挖坑
PyTorch模型迁移
- 手工迁移
- 脚本转换工具(msFmkTransplt)
- 自动迁移(推荐)
挖坑