最简洁使用Tensorflow_model_server
Tensorflow_model_server的目的是:
统一管理一个模型服务器,利于让他人使用这个模型,而且可以动态更新模型,模型也会常住在内存里面,加快结果输出,减少模型加载时间。
事先准备操作:
Tensorflow_model_server 安装:
参考:https://www.tensorflow.org/serving/setup
这里会有一个坑: 直接
pip intall tensorflow-model-server
的时候它会显示已经安装完,但是实际上还是没有找到这个库,处理方法是,先把原来的tensorflow-model-server
给uninstall 再按安装库上面安装即可。
启动 tensorflow_model_server
:
tensorflow_model_server
--port=端口号
8000
--model_name=模型名称
例:256
--model_base_path=绝对路径
例: /notebooks/animieGan/TwinGAN/export