多模型多线程预测

# 安装docker
yum install docker

# 开启docker服务 
service docker start

# 使用docker拉取tensorflow-serving镜像。
docker pull tensorflow/serving


MODEL_PATH="/data/django-uwsgi/text_labeled/model_train"

# 使用docker run命令启动微服务
# 启动第一个模型
docker run -t --rm -p 8501:8501 \
    -v "$MODEL_PATH/movie:/models/movie" \
            -e MODEL_NAME=movie \
               tensorflow/serving &

# 同理启动， 启动第二个模型
docker run -t --rm -p 8501:8502 \
    -v "$MODEL_PATH/beauty:/models/beauty" \
            -e MODEL_NAME=beauty \
              tensorflow/serving &

# 更多模型以此类推

# 使用curl命令在终端进行测试。
curl -d '{"instances": [[1.0, 2.0, 5.0]]}' \
    -X POST http://localhost:8501/v1/models/movie:predict