当我们拿到别人训练后保存的模型文件后,如果需要通过C++接口部署模型的话,一般情况下都需要将模型固化并保存为pb格式。友好的Tensorflow提供了相关的固化命令脚本,下面以 .meta 格式的固化为例说明使用的方式。
一、文件内容
用 tf.train.Saver.save() 方式保存下来的checkpoint会产生四个文件:
- checkpoint
记录了部分已存储和最近存储的模型:
- model.ckpt.data-00000-of-00001
保存了模型的所有变量的值,TensorBundle集合。
- model.ckpt.index
string-string的映射表,映射表的key值为tensor名,value为tensor的metadata。
- model.ckpt.meta
保存了graph结构,包括 GraphDef、SaverDef等,当存在meta文件,我们可以不需要在代码中定义模型结构,直接读取meta文件中的模型结构即可;而如果没有meta文件,则需要写好构建模型结构的代码,再加载data文件,得到变量值。
二、固化命令
问题一、可能遇到的错误
UnicodeDecoderError: 'utf-8' codec can't decode byte 0xd8 in position 1: invalid continuation byte
解决:传入参数 --input_binary=True
问题二、当我们手上只有别人训练好的模型文件时,如何确定输入参数中的--output_node_name呢?
最直观的方式是使用TensorBoard查看图结构,步骤如下:
(1)从.meta文件生成Tensorboard所需的log,可以通过以下代码生成,运行脚本后在log目录下生成events.out.tfevents.xxx文件。
(2)在Windows下通过cmd命令行启动Tensorboard。
(3)浏览器打开显示的网址,通过可视化的图结构可以清楚地看到输入和输出节点的名字。