-
开发流程框图
开发流程介绍
-
准备环境
准备编译调试环境,包括开发环境和运行环境:安装固件、驱动、CANN软件安装。
-
构建模型
构建适配CANN的om模型
-
应用开发
调用AscendCL接口开发应用,在昇腾CANN平台上开发应用,实现深度学习西推理计算,图形图像预处理、单算子加速计算等应用开发指南。
创建代码目录。
在开发应用前,您需要先创建目录,存放代码文件、编译脚本、测试图片数据、模型文件等。
开发应用流程:
- AscendCL初始化使用AscendCL接口开发应用时,必须先调用aclInit接口进行AscendCL初始化,否则可能会导致后续系统内部资源初始化出错,进而导致其它业务异常。
- 运行管理资源申请。
- 数据传输。
- 若需要抠图、缩放等操作,还需要进行数据预处理,输出YUV420 SP格式的图片,作为模型推理的输入。数据预处理结束后,需及时释放相关资源。
- 执行模型推理。模型推理结束后,需及时释放相关资源。
- 若需要处理模型推理的结果,还需要进行数据后处理,例如对于图片分类应用,通过数据后处理从推理结果中查找最大置信度的类别标识。
- 所有数据处理结束后,需及时释放运行管理资源。
- 执行AscendCL去初始化
- 编译运行应用,包括模型转换、编译代码、运行应用,请参见编译及运行应用。
-
功能调测
定位应用执行过程中的报错
-
优化应用性能
-
采集并解析应用运行过程中软硬件的性能数据借助AOE工具对模型中的算子进行调优
- 优化应用推理的精度
-
优化应用推理的精度
借助精度比对工具分析、定位精度问题、嘉禾经典案例说明推理场景下的精度问题定位流程