tensorflow加载训练好的模型、计算图和变量

python不会像MATLAB一样，可以很方便的查看程序运行过程中生成的各个变量或参数值，但是有时候，需要查看某些变量的取值，比如，训练神经网络模型时，可能需要查看权重和偏置的取值。现总结一下利用python加载并输出训练好的模型的方法。
先以一个简单的例子为例

保存模型

import tensorflow as tf
#声明两个变量
a=tf.Variable(tf.constant(1,shape=[1]),name='a')
b=tf.Variable(tf.constant(2,shape=[1]),name='b')

#计算两个变量的和
res=a+b

#声明tf.train.Saver()类用于保存模型
saver=tf.train.Saver()


#创建会话
sess=tf.Session()
sess.run(tf.global_variables_initializer())

#b保存模型
saver.save(sess,r'E:\2019\CNN\restore_model\sample_example_model/')  #''中为模型保存的路径

运行代码后，在目标文件夹里会生成以下文件：

其中.data文件保存了所有变量的取值；
.index文件保存了所有变量名；
.meta文件保存了tensorflow计算图结构；
checkpoint保存了目录下所有的模型文件列表。
加载模型

import tensorflow as tf
#声明两个变量
a=tf.Variable(tf.constant(1,shape=[1]),name='a')
b=tf.Variable(tf.constant(2,shape=[1]),name='b')

#计算两个变量的和
res=a+b
sess=tf.Session()

#加载保存好的模型
saver=tf.train.Saver()
saver.restore(sess,r'E:\2019\CNN\restore_model\sample_example_model/')

#通过保存的模型中的变量值计算结果
print(sess.run(res))

运行结果：3
这段加载模型的代码基本与保存模型的代码是一样的，两段代码唯一不同的是，在加载模型的代码中没有运行变量的初始化过程，而是将变量的值通过已经保存的模型加再进来。
如果不希望重复定义图上的计算，也可以直接加载保存的tensorflow计算图，代码如下：

import tensorflow as tf
#加载tensorflow计算图
saver=tf.train.import_meta_graph(r'E:\2019\CNN\restore_model\sample_example_model/.meta')
sess=tf.Session()
saver.restore(sess,r'E:\2019\CNN\restore_model\sample_example_model/')
#通过张量名称获得张量
print(sess.run(tf.get_default_graph().get_tensor_by_name('add:0')))

运行结果：[3]
在上面的程序中，默认保存和加载了tensorflow计算图上定义的全部变量。但有时可能只需要保存或加载部分变量。为了保存或加载部分变量，在声明tf.train.Saver类时可以提供一个列表来指定保存或加载的变量。

a=tf.Variable(tf.constant(1,shape=[1]),name='a')
b=tf.Variable(tf.constant(2,shape=[1]),name='b')

#计算两个变量的和
res=a+b
sess=tf.Session()
saver=tf.train.Saver([a])
saver.restore(sess,r'E:\2019\CNN\restore_model\sample_example_model/')
print(sess.run(a))

运行结果：[3]

a=tf.Variable(tf.constant(1,shape=[1]),name='a')
b=tf.Variable(tf.constant(2,shape=[1]),name='b')

#计算两个变量的和
res=a+b
sess=tf.Session()
saver=tf.train.Saver([a])
saver.restore(sess,r'E:\2019\CNN\restore_model\sample_example_model/')
print(sess.run(b))

运行报错：tensorflow.python.framework.errors_impl.FailedPreconditionError: Attempting to use uninitialized value b
在上面的程序中，没有加载变量b，所以输出变量b的值时会报错。
对于卷积神经网络
我已经训练好了一个识别手写数字的模型，现在我想输出模型中全连接层的参数，代码如下：

import tensorflow as tf
x=tf.placeholder(tf.float32,shape=[None,784],name='input')
y_=tf.placeholder(tf.float32,shape=[None,10],name='label')

#定义变量
def get_weights(shape):
    initial=tf.truncated_normal(shape,stddev=0.1)
    return tf.Variable(initial)
def get_bias(shape):
    initial=tf.constant(0.1,dtype=tf.float32,shape=shape)
    return tf.Variable(initial)

#定义卷积运算
def conv2d(x,w):
    return tf.nn.conv2d(x,w,strides=[1,1,1,1],padding='SAME')

#定义池化运算
def max_pool(x):
    return tf.nn.max_pool(x,ksize=[1,2,2,1],strides=[1,2,2,1],padding='SAME')

#输入
x_image=tf.reshape(x,[-1,28,28,1])

#第一层卷积池化层
w_conv1=get_weights([5,5,1,32])
b_conv1=get_bias([32])
conv1=tf.nn.relu(conv2d(x_image,w_conv1)+b_conv1)
pool1=max_pool(conv1)

#第二层卷积池化层
w_conv2=get_weights([5,5,32,64])
b_conv2=get_bias([64])
conv2=tf.nn.relu(conv2d(pool1,w_conv2)+b_conv2)
pool2=max_pool(conv2)


#全连接层
pool_fl=tf.reshape(pool2,[-1,7*7*64])
w_fl1=get_weights([7*7*64,1024])
b_fl1=get_bias([1024])
fl1=tf.nn.relu(tf.matmul(pool_fl,w_fl1)+b_fl1)

sess=tf.Session()

#声明tf.train.Saver([w_fl1])类加载全连接层参数w_fl1(想加载哪些参数就在这里写要加载参数的名称)
saver=tf.train.Saver([w_fl1])
saver.restore(sess,r'E:\2019\21projects_tensorflow\mnist/mnist_model/')

print(sess.run(w_fl1))

其中网络结构和训练模型时的结构一致。
输出结果：
[[ 0.01839377 -0.08246572 0.00331391 … 0.06296185 -0.04869837
0.07754395]
[-0.11393645 0.1014652 0.01383232 … 0.03833918 -0.01894472
0.0146635 ]
[ 0.05764997 0.0452631 0.04700321 … 0.01618802 -0.05291563
-0.05835916]
…
[-0.25957662 -0.06376158 0.01888037 … -0.02438848 -0.04975826
0.02896979]
[-0.1075234 0.0156611 -0.09313257 … 0.0620559 -0.08073292
-0.07070705]
[-0.10439941 -0.08538222 0.11356532 … -0.00050158 0.03816419
0.00670005]]