tensorflow从入门到精通100讲（六）-在TensorFlow Serving/Docker中做keras 模型部署

前言

不知道大家研究过没有，tensorflow模型有三种保存方式：

• 训练时我们会一般会将模型保存成：checkpoint文件
• 为了方便python，C++或者其他语言部署你的模型，你可以将模型保存成一个既包含网络结构又包含权重参数的：PB文件
• 为了方便使用TensorFlow Serving 部署你的模型，你可以将模型保存成：Saved_model文件

博主是keras（tensorflow ）的深度用户，经常把模型保存成HDF5格式。那么问题来了，如何把keras的模型转化成PB文件 或者 Saved_model文件供生成部署使用。今天博主就是来介绍一下如何将Keras的模型保存成PB文件 或者 Saved_model文件。

定义BERT二分类模型

下方函数定义的是一个标准的BERT做文本二分类的图结构。

 

from keras.models import Model
from keras.layers import *
from keras import backend as K
import tensorflow as tf
from keras_bert import get_model,compile_model

def load_bert_model_weight(bert_mode