TensorFlow/Pytorch的工业化部署

TensorFlow的工业化部署

1、https://github.com/BeyonderXX/tensorflow-serving-tutorial
2、部署后启动的命令：
（1）有配置文件的：docker run --rm -d -t -p 8501:8501 -v /home/……/programs/datasets/mutimodel:/models/mutimodel tensorflow/serving --model_config_file=/models/mutimodel/models.config
（2）无配置文件的：docker run --rm -t -p 8501:8501 -v /home/……/programs/datasets/model_pb_0915:/models/cail_elem --name=tfserving_cail -e MODEL_NAME=cail_elem tensorflow/serving:latest
3、检查模型是否部署成功
curl http://192.168.1.103:8501/v1/models/ner

Pytorch的工业化部署

1、https://zhuanlan.zhihu.com/p/66483806?utm_source=wechat_session
2、