本文章同步发布在昇腾论坛 https://bbs.huaweicloud.com/forum/forum.php?mod=viewthread&tid=121663
基于MindSpore Serving部署推理服务
官方链接:https://www.mindspore.cn/tutorial/inference/zh-CN/master/serving_example.html
1.安装mindspore serving
下载:https://www.mindspore.cn/versions
https://ms-release.obs.cn-north-4.myhuaweicloud.com/1.1.1/Serving/ascend/ubuntu_x86/mindspore_serving-1.1.1-cp37-cp37m-linux_x86_64.whl
pip install mindspore_ascend-1.1.1-cp37-cp37m-linux_aarch64.whl
pip install mindspore_serving-1.1.1-cp37-cp37m-linux_aarch64.whl
配置环境变量
2. resnet工程推理
git工程
git clone https://gitee.com/mindspore/serving.git
导出模型 在…/resnet50/1 目录下生成 resnet50_1b_imagenet.mindir
python3 export_model/export_resnet.py
部署serving推理服务
目前MS提供了2中接口方式:gRPC 和RESTful