tensorflow学习笔记（二）：name_scope, variable_scope

---

---

在训练深度网络时，为了减少需要训练参数的个数（比如LSTM模型），或者是多机多卡并行化训练大数据、大模型等情况时，往往就需要共享变量。另外一方面是当一个深度学习模型变得非常复杂的时候，往往存在大量的变量和操作，如何避免这些变量名和操作名的唯一不重复，同时维护一个条理清晰的graph非常重要。因此，tensorflow中用tf.Variable(), tf.get_variable, tf.Variable_scope(), tf.name_scope() 几个函数来实现。

1、tf.Variable() 和 tf.get_variable()

tf.Variable()：只要使用该函数，一律创建新的variable，如果出现重名，变量名后面会自动加上后缀1，2….它会自动监测命名冲突并自行处理；

import tensorflow as tf;
 
a1 = tf.Variable(tf.random_normal(shape=[2, 3], mean=0, stddev=1), name='a2')
a2 = tf.Variable(tf.random_normal(shape=[2, 3], mean=0, stddev=1), name='a2')
 
with tf.Session() as sess:
    sess.run(tf.initialize_all_variables())
    print(a1.name)
    print(a2.name)
 
# 输出
a2:0
a2_1:0

tf.get_variable()：如果变量存在，则使用以前创建的变量，如果不存在，则新创建一个变量，但是tf.get_variable() 遇到重名的变量创建且没有设置为共享变量时，则会报错。

import tensorflow as tf;
 
a1 = tf.get_variable(name='a1', shape=[1], initializer=tf.constant_initializer(1))
a3 = tf.get_variable(name='a1', shape=[1], initializer=tf.constant_initializer(1))