centos7 安装tensorflowserving

参考:
https://blog.csdn.net/u011734144/article/details/82107610

docker pull tensorflow/serving

$cd /root/software/
$git clone https://github.com/tensorflow/serving

docker run -p 8501:8501
–mount type=bind,\source=${pwd}/serving/tensorflow_serving/servables/tensorflow/testdata/saved_model_half_plus_two_cpu,
target=/models/half_plus_two
-e MODEL_NAME=half_plus_two -t tensorflow/serving &

bind,\source 一定不要出现空格
–mount: 表示要进行挂载
source: 指定要运行部署的模型地址, 也就是挂载的源,这个是在宿主机上的模型目录
target: 这个是要挂载的目标位置,也就是挂载到docker容器中的哪个位置,这是docker容器中的目录
-t: 指定的是挂载到哪个容器
-p: 指定主机到docker容器的端口映射
docker run: 启动这个容器并启动模型服务(这里是如何同时启动容器中的模型服务的还不太清楚)

$curl -d ‘{“instances”: [1.0, 2.0, 5.0]}’
-X POST
验证
http://localhost:8501/v1/models/half_plus_two:predict
结果
{ “predictions”: [2.5, 3.0, 4.5] }

出现权限问题
setenforce 0 设置宽容模式

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值