CANN2022训练营第一季，学习笔记——初级应用开发3

 CANN2022训练营第一季，学习笔记（含打卡截图）——初级应用开发3

学习笔记

模型转换工具（ATC工具）
将TensorFlow/Caffe等开源网络的模型通过ATC工具转为昇腾AI处理器支持格式的模型（Model.om file）

流程：开始→环境准备（获取ATC工具、设置环境变量）→模型准备→ATC模型转换（可以根据需要进行配置）→结束

ACL简介（见第二节课内容）

用于加速推理的应用开发框架（不是新手训练用的）。其向上可以供第三方框架、开发第三方lib库调用，向下可以调用GE执行器、运行管理器等

一、开发图片分类运用学习

ACL主要接口调用流程（实验ACL开发应用的基本流程）：
ACL初始化→运行管理资源申请→算子调用/模型推理（算子调用：生成算子文件、加载算子文件、执行算子 或者 模型推理：模型加载、模型执行、模型卸载）
→运行管理资源释放→ACL去初始化

 

课程内容

1、ACL运行资源管理

申请运行资源
注意！！要按顺序依次申请（就像逻辑运行一样要有顺序）
顺序为：Device、Context、Stream，然后根据需要调用aclrtGetRunMode接口获取软件栈的运行模型（当同一个应用既支持在Host运行也支持在Device运行时，在编程时就需要根据运行模式来判断后续的接口调用逻辑，这时需要提前获取运行模式）

运行管理资源释放

注意！！释放和申请的顺序相反（类比C++中多个构造函数和多个析构函数的调用顺序）！！
顺序为：Stream、Context、Device

• Device管理相关接口
  aclrtGetDeviceCount接口：获取可用的Device数量，同步接口(即同步等待接口，须接口完成动作返回后才可继续向下执行。
  aclrtGetRunMode接口：获取当前昇腾软件栈的运行模式，同步接口
  aclrtSetDevice接口：制定用于运算的Device，同时隐式创建默认Context，该默认Context中包含2个Stream，1个默认Stream和1个执行内部同步的Stream。同步接口。
  aclrtResetDevice接口：复位当前运算的Device，释放Device上的资源，包括默认Context、 默认Stream以及默认Context下创建的所有Stream， 同步接口。若默认Context或默认Stream下的任务还未完成，系统会等待任务完成后再释放。
  aclrtGetDevice接口：获取当前正在使用的Device的ID。同步接口。
• Context管理相关接口
  aclrtCreateContext接口：显式创建一个 Context，该Context中包含2个Stream， 1个默认Stream和1个执行内部同步的Stream，同步接口。
  aclrtDestroyContext接口：销毁一个Context，释放Context的资源，只能销毁通过aclrtCreateContext接口显式创建的Context。同步接口。
  aclrtSetCurrentContext接口：设置线程的Context。同步接口。
  aclrtGetCurrentContext接口：获取线程的Context。同步接口。
• Stream管理相关接口
  aclrtCreateStream接口：创建一个Stream。同步接口。
  aclrtDestroyStream接口：销毁指定Stream，只能销毁通过aclrtCreateStream接口创建的Stream。同步接口。

未完待续……

2、ACL内存管理&数据传送

3、ACL数据预处理

4、ACL模型加载与执行

5、ACL单算子加载与执行

6、ACL案例讲解

二、编译及运行应用

步骤：①准备模型 ②准备数据 ③编译程序 ④运行程序

三、获取运行日志
重点：日志目录默认为：“CANN软件安装目录/ascend/log”，应用运行之后，可以在该目录下查阅日志
日志中的关键信息：