文章目录
【2023 · CANN训练营第一季】TensorFlow 迁移 第三节 AI 应用开发
获取昇腾推理环境设备
可以获取华为云含昇腾设备的 ECS 主机用于推理
获取华为云 ID 用于绑定
当然,如果是 ModelArts 训练的可以直接创建 AI 应用。
昇腾图片分类应用开发过程精讲
使用以 ResNet-50 为例,使用转换好的昇腾 om 模型,并编写昇腾专用推理程序。
选择一个可以用于图片分类的模型,这里选择的是 ResNet-50.
确定模型的输入输出,需要用 AscendCL 去实现数据的输入输出。ResNet-50 需要输入 RGB 编码图片,分辨率固定为 224*224,也就是我们要用 ACL 对图片预处理至 224 大小才可传入模型;输出5个最可能的类别标签以及其对应的置信度。
置信度是指图片所属某个类别可能性
类别标签不是直接显示文字,需要查询 ImageNet 数据集标签。
使用 AscendCL 编写推理程序
AscendCL 可以使用 C/C++ 语言以及 Python 语言编写(底层本质还是 C 语言)
AscendCL 的调用流程
初始化资源顺序:Device, Context, Stream。释放时顺序反过来。
显式创建Context和Stream:推荐显式,适合大型、复杂交互逻辑的应用,且便于提高程序的可读性、可维护性。
示例 C 框架代码:示例代码-CANN社区版-文档首页-昇腾社区 (hiascend.com)