Tensorflow Serving部署推荐模型

u013250861

已于 2024-02-17 00:09:55 修改

阅读量697

点赞数

分类专栏： # LLM/部署文章标签： tensorflow 深度学习 python

于 2022-12-19 10:19:34 首次发布

本文链接：https://blog.csdn.net/u013250861/article/details/128369361

版权

LLM/部署专栏收录该内容

41 篇文章 25 订阅 ¥19.90 ¥99.00

订阅专栏

超级会员免费看

本文详细介绍了如何使用Tensorflow Serving部署推荐模型，包括模型保存、转换为saved_model格式、Dockerfile编写、构建镜像和启动容器。在模型保存时注意定义好输入输出的name，使用saver保存最高指标的模型。转换模型格式后，通过docker部署并配置模型的输入输出参数，最后使用postman进行测试。

摘要由CSDN通过智能技术生成

Tensorflow Serving部署推荐模型

1、找到当前模型中定义的variables，并在此定义一个saver用于保存模型参数

def saveVariables(self):
    variables_dict = {}
    variables_dict[self.user_embedding.op.name] = self.user_embedding
    variables_dict[self.item_embedding.op.name] = self.item_embedding

    for v in self.reduce_dimension_layer.variables:
        variables_dict[v.op.name] = v

    self.saver = tf.train.Saver(variables_dict)

在模型的输入和输出的地方，尽量自行定义name，这样在之后的部署的时候会方便很多！

self.item_input = tf.placeholder("int32", [None, 1],name="gat_iteminput") 
self.user_input = tf.placeholder("int32", [None, 1],name="gat_userinput") 
...
self.prediction = tf.sigmoid(tf.reduce_sum(s

了解本专栏