场景介绍
MindSpore Lite 是一款 AI 引擎,它提供了面向不同硬件设备 AI 模型推理的功能,目前已经在图像分类、目标识别、人脸识别、文字识别等应用中广泛使用。
本文介绍使用 MindSpore Lite 推理引擎进行模型推理的通用开发流程。
基本概念
在进行开发前,请先了解以下概念。
张量:它与数组和矩阵非常相似,是 MindSpore Lite 网络运算中的基本数据结构。
Float16 推理模式: Float16 又称半精度,它使用 16 比特表示一个数。Float16 推理模式表示推理的时候用半精度进行推理。
接口说明
这里给出 MindSpore Lite 推理的通用开发流程中涉及的一些接口,具体请见下列表格。
Context 相关接口
Model 相关接口
Tensor 相关接口
开发步骤
使用 MindSpore Lite 进行模型推理的开发流程如下图所示。图 1 使用 MindSpore Lite 进行模型推理的开发流程
进入主要流程之前需要先引用相关的头文件,并编写函数生成随机的输