![](https://img-blog.csdnimg.cn/20201014180756928.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
Tensorflow
weixin_mm975247003
不积跬步无以至千里!
展开
-
Tensorflow原理
深度学习—Tensorflow内部原理1、创建变量的scope对于神经网络的初学者,一般都停留在tensorflow的使用阶段,而对于其内部原理不是特别清楚,针对这一现状,我通过查询相关资料,学习tensirflow的内部原理。Tensorflow是一个基于计算图的运算框架,它的核心操作分为三步:(1)构建计算图。(2)分发计算任务。(3)执行计算任务。1、创建变量的scope t...原创 2019-09-04 11:45:14 · 1415 阅读 · 0 评论 -
Tensorflow运行模型——会话
Tensorflow运行模型——会话 这一部分介绍如何使用Tensorflow中的会话(session)来执行定义好的运算。会话拥有并管理Tensorflow程序运行时的所有资源。所有计算完成之后需要关闭会话来帮助系统回收资源,否则就可能出现资源泄露的问题。Tensorflow中使用会话的模式一般有两种,第一种模式需要明确调用会话生成函数和关闭会话函数,这种模式的代码如下:import te...原创 2019-09-05 00:10:19 · 669 阅读 · 0 评论 -
Tensorflow变量
Tensorflow变量1、变量和张量的关系 在Tensorflow的计算之前,需要将所有用到的变量初始化。也就是说,虽然在变量定义时给出了变量初始化的方法,但这个方法并没有被真正的运行。所以在计算之前,需要通过运行initializer方法来给变量赋值。虽然直接调用每个变量的初始化过程是一个可行的方案,但是当变量数目增多,或者变量之间存在依赖关系时,单个调用方案就比较麻烦,可以通过tf.gl...原创 2019-09-06 11:15:39 · 176 阅读 · 0 评论 -
Tensorflow中的学习率
Tensorflow中的学习率学习率(learning_rate): 表示了每次参数更新的幅度大小。学习率过大,会导致待优化的参数在最小值附近波动,不收敛;学习率过小,会导致待优化的参数收敛缓慢。在训练过程中,参数的更新向着损失函数梯度下降的方向。参数的更新公式为:wn+1=wn−learning_rate∇{w_{n + 1}} = {w_n} - learning\_rate\nablaw...原创 2019-09-08 07:39:29 · 2815 阅读 · 1 评论 -
滑动平均模型
滑动平均模型 滑动平均模型可以使模型在测试数据上更健壮。在采用随机梯度下降算法训练神经网络时,使用滑动平均模型在很多应用中都可以在一定程度提高最终在测试数据上的表现。 在Tensorflow中提供了tf.train.ExponentialMovingAverage来实现滑动平均模型。在初始化ExponentialMovingAverage时,需要提供一个衰减率(decay)。这个衰减率将用...原创 2019-09-10 15:29:06 · 402 阅读 · 0 评论