TensorFlow学习记录：用TF_Serving将人脸识别模型Inception ResNet V2部署到服务器上

最新推荐文章于 2022-04-19 15:44:44 发布

Barcelooooooooona

最新推荐文章于 2022-04-19 15:44:44 发布

阅读量977

点赞数

分类专栏：深度学习 TensorFlow 文章标签： TensorFlow TensorFlow Serving TF_Serving TensorFlow将训练好的模型部署到服务器上

本文链接：https://blog.csdn.net/weixin_41137655/article/details/99704305

版权

本文记录了如何使用TensorFlow Serving将预训练的Inception ResNet V2人脸识别模型部署到服务器上。首先下载模型文件，然后利用saved_model模块导出带签名的模型，接着构建模型版本并启动TF_Serving服务。最后通过HTTP POST请求测试服务，成功实现了远程调用。

摘要由CSDN通过智能技术生成

部署前先到这里下载已训练好的Inception ResNet V2模型。
下载后解压得到如下图所示文件
在这里插入图片描述
将上图所示pb文件用saved_model模块导出为带有签名的模型文件

import tensorflow as tf
import numpy as np
from tensorflow.python.saved_model import tag_constants

model_path = "/home/boss/Study/face_recognition_flask/20180402-114759/model.pb"
image_test = np.random.randint(0,10,(1,160,160,3))    # 随机生成一个[1,160,160,3]的数组，代表一张图片，用于测试

with tf.gfile.FastGFile(model_path,'rb')as f:
	graph_def = tf.GraphDef()
	graph_def.ParseFromString(f.read())
	tf.import_graph_def(graph_def,name='')

	my_graph = tf.get_default_graph()
	 # 从读取的pb文件中找到相关张量，构造要保存到saved_model模型中的张量
	images_placeholder = my_graph.get_tensor_by_name('input:0')          # 传入Inception ResNet V2的placeholder
	embeddinigs = my_graph.get_tensor_by_name('embeddings:0')          # Inception ResNet V2的输出，为人脸的特征数组，形状为[1,512]
	phase_train_placeholder = my_graph.get_tensor_by_name('phase_train:0')# 传入Inception ResNet V2告诉神经网络是否是在训练阶段，值域为[True,False]

	with tf.Session