1. Tensorflow模型是什么?
当你已经训练好一个神经网络之后,你想要保存它,用于以后的使用,部署到产品里面去。所以,Tensorflow模型是什么?Tensorflow模型主要包含网络的设计或者图(graph),和我们已经训练好的网络参数的值。因此Tensorflow模型有两个主要的文件:
A) Meta graph:
这是一个保存完整Tensorflow graph的protocol buffer,比如说,所有的 variables, operations, collections等等。这个文件的后缀是 .meta 。
B) Checkpoint file:
这是一个包含所有权重(weights),偏置(biases),梯度(gradients)和所有其他保存的变量(variables)的二进制文件。它包含两个文件:
mymodel.data-00000-of-00001
mymodel.index
其中,.data文件包含了我们的训练变量。
另外,除了这两个文件,Tensorflow有一个叫做checkpoint的文件,记录着已经最新的保存的模型文件。
注:Tensorflow 0.11版本以前,Checkpoint file只有一个后缀名为.ckpt的文件。
因此,总结来说,Tensorflow(版本0.10以后)模型长这个样子:
Tensorflow版本0.11以前,只包含以下三个文件:
inception_v1.meta
inception_v1.ckpt
checkpoint
接下来说明如何保存模型。
2. 保存一个Tensorflow模型
当网络训练结束时,我们要保存所有变量和网络结构体到文件中。在Tensorflow中,我们可以创建一个tf.train.Saver() 类的实例,如下:
saver = tf.train.Saver()
由于Tensorflow变量仅仅只在session中存在,因此需要调用save方法来将模型保存在一个session中。
saver.save(sess, ‘my-test-model’)
在这里,sess是一个session对象,其中my-test-model是你给模型起的名字。下面是一个完整的例子:
import tensorflow as tf
w1 = tf.Variable(tf.random_normal(shape=[2]), name='w1')
w2 = tf.Variable(tf.random_normal(shape=[5]), name='w2')
saver = tf.train.Saver()
sess = tf.Session()
sess.run(tf.global_variables_initializer())
saver.save(sess, 'my_test_model')
# This will save following files in Tensorflow v >= 0.11
# my_test_model.data-00000-of-00001
# my_test_model.index
# my_test_model.meta
# checkpoint
如果我们想在训练1000次迭代之后保存模型,可以使用如下方法保存
saver.save(sess, 'my_test_model',global_step=1000)
这个将会在模型名字的后面追加上‘-1000’,下面的文件将会被创建:
my_test_model-1000.index
my_test_model-1000.meta
my_test_model-1000.data-00000-of-00001
checkpoint
由于网络的图(graph)在训练的时候是不会改变的,因此,我们没有必要每次都重复保存.meta文件,可以使用如下方法:
saver.save(sess, 'my-model',global_step=step