tensorflow讲堂 sess.run(tf.global_variables_initializer()) 做了什么？

最新推荐文章于 2022-04-04 18:45:27 发布

计算机视觉-Archer

最新推荐文章于 2022-04-04 18:45:27 发布

阅读量5.4k

点赞数

分类专栏： tensorrflow

tensorrflow 专栏收录该内容

13 篇文章 0 订阅

订阅专栏

原

tensorflow学习笔记：sess.run(tf.global_variables_initializer()) 做了什么？

2017年10月20日 09:05:13 ke1th 阅读数：12773 更多

																				<div class="tags-box space">
							<span class="label">个人分类：</span>
															<a class="tag-link" href="https://blog.csdn.net/u012436149/article/category/6461700" target="_blank">tensorflow																</a>
						</div>
																				<div class="tags-box space">
							<span class="label">所属专栏：</span>
															<a class="tag-link" href="https://blog.csdn.net/column/details/13300.html" target="_blank">tensorflow学习笔记</a>
															
						</div>
																</div>
			<div class="operating">
													</div>
		</div>
	</div>
</div>
<article>
	<div id="article_content" class="article_content clearfix csdn-tracking-statistics" data-pid="blog" data-mod="popu_307" data-dsm="post">
							<div class="article-copyright">
				版权声明：本文为博主原创文章，转载请注明出处。					https://blog.csdn.net/u012436149/article/details/78291545				</div>
							            <div class="markdown_views">
						<!-- flowchart 箭头图标 勿删 -->
						<svg xmlns="http://www.w3.org/2000/svg" style="display: none;"><path stroke-linecap="round" d="M5,0 0,2.5 5,5z" id="raphael-marker-block" style="-webkit-tap-highlight-color: rgba(0, 0, 0, 0);"></path></svg>
						<p>当我们训练自己的神经网络的时候，无一例外的就是都会加上一句 <code>sess.run(tf.global_variables_initializer())</code> ，这行代码的官方解释是 初始化模型的参数。那么，它到底做了些什么？</p>

一步步看源代码：（代码在后面）

global_variables_initializer 返回一个用来初始化计算图中所有global variable的 op。
- 这个op 到底是啥，还不清楚。
- 函数中调用了 variable_initializer() 和 global_variables()
global_variables() 返回一个 Variable list ，里面保存的是 gloabal variables。
variable_initializer() 将 Variable list 中的所有 Variable 取出来，将其 variable.initializer 属性做成一个 op group。
然后看 Variable 类的源码可以发现， variable.initializer 就是一个 assign op。

所以： sess.run(tf.global_variables_initializer()) 就是 run了所有global Variable 的 assign op，这就是初始化参数的本来面目。

def global_variables_initializer():
  """Returns an Op that initializes global variables.
  Returns:
    An Op that initializes global variables in the graph.
  """
  return variables_initializer(global_variables())

def global_variables():
  """Returns global variables.
  Returns:
    A list of `Variable` objects.
  """
  return ops.get_collection(ops.GraphKeys.GLOBAL_VARIABLES)

def variables_initializer(var_list, name="init"):
  """Returns an Op that initializes a list of variables.
  Args:
    var_list: List of `Variable` objects to initialize.
    name: Optional name for the returned operation.

  Returns:
    An Op that run the initializers of all the specified variables.
  """
  if var_list:
    return control_flow_ops.group(*[v.initializer for v in var_list], name=name)
  return control_flow_ops.no_op(name=name)
 
 1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26

class Variable(object):
    def _init_from_args(self, ...):
        self._initializer_op = state_ops.assign(
            self._variable, self._initial_value,
            validate_shape=validate_shape).op
    @property
    def initializer(self):
        """The initializer operation for this variable."""
        return self._initializer_op
 
 1
2
3
4
5
6
7
8
9

					<link href="https://csdnimg.cn/release/phoenix/mdeditor/markdown_views-8cccb36679.css" rel="stylesheet">
            </div>
								
				<script>
					(function(){
						function setArticleH(btnReadmore,posi){
							var winH = $(window).height();
							var articleBox = $("div.article_content");
							var artH = articleBox.height();
							if(artH > winH*posi){
								articleBox.css({
									'height':winH*posi+'px',
									'overflow':'hidden'
								})
								btnReadmore.click(function(){
									articleBox.removeAttr("style");
									$(this).parent().remove();
								})
							}else{
								btnReadmore.parent().remove();
							}
						}
						var btnReadmore = $("#btn-readmore");
						if(btnReadmore.length>0){
							if(currentUserName){
								setArticleH(btnReadmore,3);
							}else{
								setArticleH(btnReadmore,1.2);
							}
						}
					})()
				</script>
				</article>