linux卸载docker旧版本,安装最新稳定版本,并使用tensoflow serving部署深度学习模型

一:如果在linux第一次使用docker部署深度学习模型,则应先查看以下docker版本:
停止docker服务:
systemctl stop docker
查看当前版本:
rpm -qa | grep docker
如果不是最新版本,则卸载当前版本:
卸载软件包:

yum erase docker \
                  docker-client \
                  docker-client-latest \
                  docker-common \
                  docker-latest \
                  docker-latest-logrotate \
                  docker-logrotate \
                  docker-selinux \
                  docker-engine-selinux \
                  docker-engine \
                  docker-ce

删除镜像/容器等:

rm -rf /var/lib/docker

二:安装新版本:
软件包安装:

yum install -y yum-utils  device-mapper-persistent-data lvm2

添加yum源:

yum-config-manager \
--add-repo \
    https://download.docker.com/linux/centos/docker-ce.repo

查看可安装的版本:

yum list docker-ce --showduplicates | sort -r

在这里插入图片描述

安装最新版本:

yum install docker-ce -y

启动并开机自启:

systemctl start docker
systemctl enable docker

查看docker版本:

docker version

在这里插入图片描述
三:接下来以cpu为例,演示快速部署:
拉取镜像:

docker pull tensorflow/serving

下载demo models:

git clone https://github.com/tensorflow/serving

查找模型的路径,如我的路径为:
在这里插入图片描述

/home/yanfa/deep_fm_model/

输入以下命令即可
启动tensorflow服务容器并打开rest API端口:

docker run -t --rm -p 8501:8501    -v "/home/yanfa/deep_fm_model:/models/deep-model"    -e MODEL_NAME=deep-model    tensorflow/serving &

在这里插入图片描述
出现如上界面说明模型接口已开启成功
这是其他模型的测试数据格式,对于此次模型需要重新构造instances
使用预测API查询模型:

curl -d '{"instances": [1.0, 2.0, 5.0]}' \
    -X POST http://localhost:8501/v1/models/half_plus_two:predict

在这里插入图片描述
其中8500默认为rpc端口,8501默认为REST端口,可以同时开启。环境变量MODEL_NAME指向模型目录(默认model),MODEL_BASH_PATH指向模型目录所在根目录(默认/models)

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值