tensorflow里面共享变量、name_scope, variable_scope等如何理解

tensorflow里面共享变量、name_scope, variable_scope等如何理解

• name_scope, variable_scope目的：1 减少训练参数的个数。 2 区别同名变量

• 为什么要共享变量？我举个简单的例子：例如，当我们研究生成对抗网络GAN的时候，判别器的任务是，如果接收到的是生成器生成的图像，判别器就尝试优化自己的网络结构来使自己输出0，如果接收到的是来自真实数据的图像，那么就尝试优化自己的网络结构来使自己输出1。也就是说，生成图像和真实图像经过判别器的时候，要共享同一套变量，所以TensorFlow引入了变量共享机制。

  来源：http://www.cnblogs.com/Charles-Wan/p/6200446.html

四个tf.Variable(), tf.get_variable(), tf.Variable_scope(), tf.name_scope()的区别：

1. tf.Variable()和 tf.get_variable() ：

   • tf.Variable()会自动检测命名冲突并自行处理。tf.get_variable()有一个变量检测机制，会检测已经存在的变量时否设置为共享变量，如果已经存在该变量且没有被设置为共享变量，则TensorFlow运行到第二个变量时会报。

   • tf.Variable()和 tf.get_variable()这两种方式都用在一个name_scope下面获取或创建一个变量的两种方式的区别在于：tf.Variable()用于创建一个新变量，在同一个name_scope下可以创建相同名字的变量，底层实现会自动引入别名机制，两次调用产生两个不同的变量。tf.get_variable()用于获取一个变量，并且不受name_scope的约束，当这个变量已经存在，则自动获取，如果不存在，则自动创建一个变量。

   • code解析：

作者：C Li
链接：https://www.zhihu.com/question/54513728/answer/181819324
来源：知乎

'''
1 在tf.name_scope下时，tf.get_variable()创建的变量名不受name_scope的影响，而在未指定共享变量时，如果重名就会报错，tf.Variable()会自动检测有没有变量重名，如果有则会自行处理。
'''