windows10，docker部署tensorflowserving

1.使用docker获取tensorflowserving的镜像

tensorflow官方已经非常方便的提供了tensorflowserving镜像，因此使用docker来完成tensorflowserving部署。这里主要讲一下windows使用docker的方法。window10已经可以使用hyper-V虚拟管理工具，直接下载docker for windows。下载安装完成后，

docker pull tensorflow/serving

打开docker设置，settings->shared Drives设置挂载文件目录的权限，需要给电脑设置开机密码，管理员为默认账号。为后续挂载模型做准备。

 

2.测试部署样例

tensorflow也提供相关的测试样例

git clone https://github.com/tensorflow/serving

clone完毕后，进入到

\serving-master\tensorflow_serving\servables\tensorflow\testdata

可以看到已经准备好的servables，现在就可以测试tensorflowserving的功能了。

docker run -dt -p 8501:8501 -v your_path/saved_model_half_plus_two_cpu:/models/half_plus_two -e MODEL_NAME=half_plus_two tensorflow/serving

 

3.测试样例

import json
import requests

url = 'http://localhost:8501/v1/models/half_plus_two:predict'
data = {"instances": [1.0, 2.0, 5.0]}
r =requests.post(url,json.dumps(data))
print(r)
print(r.text)
print(r.content)

 

可以看到输出：

C:\ProgramData\Anaconda3\envs\tensorflow\python.exe C:/Users/Administrator/PycharmProjects/tensorflowserving/curl_test.py
<Response [200]>
{
    "predictions": [2.5, 3.0, 4.5
    ]
}
b'{\n    "predictions": [2.5, 3.0, 4.5\n    ]\n}'

Process finished with exit code 0