转载地址:https://bbs.huaweicloud.com/forum/thread-121663-1-1.html
作者:升级失败
基于MindSpore Serving部署推理服务
官方链接:https://www.mindspore.cn/tutorial/inference/zh-CN/master/serving_example.html
1.安装mindspore serving
下载:https://www.mindspore.cn/versions
https://ms-release.obs.cn-north-4.myhuaweicloud.com/1.1.1/Serving/ascend/ubuntu_x86/mindspore_serving-1.1.1-cp37-cp37m-linux_x86_64.whl
pip install mindspore_ascend-1.1.1-cp37-cp37m-linux_aarch64.whl
pip install mindspore_serving-1.1.1-cp37-cp37m-linux_aarch64.whl
配置环境变量
2. resnet工程推理
git工程
git clone https://gitee.com/mindspore/serving.git
导出模型 在../resnet50/1 目录下生成 resnet50_1b_imagenet.mindir
python3 export_model/export_resnet.py
部署serving推理服务
目前MS提供了2中接口方式:gRPC 和RESTful
执行client.py推理