- 博客(3)
- 收藏
- 关注
RSS订阅转载 tensorflow种的梯度计算与梯度应用
gradienttensorflow中有一个计算梯度的函数tf.gradients(ys, xs)，要注意的是，xs中的x必须要与ys相关，不相关的话，会报错。 代码中定义了两个变量w1， w2， 但res只与w1相关#wrong import tensorflow as tf w1 = tf.Variable([[1,2]]) w2 = tf.Variable([[3,4]]) res = ...
2018-05-26 23:04:58
2112
转载 TensorFlow变量共享和数据读取
1、变量共享 前面已经说过如何进行变量的生成和初始化内容，也用到了命名空间的概念，这里说一下什么是变量共享。当我们有一个非常庞大的模型的时候免不了需要进行大量的变量共享，而且有时候还希望能够在一个地方初始化所有的变量，这就需要tf.variable_scope() 和 tf.get_variable()。 当只有两层的卷积的时候，前面的程序都是定义了两个卷积变量W1和W2(忽略b)，而且简单...
2018-05-22 09:05:25
355
转载 TensorFlow中的optimizer
TensorFlow中的optimizer中包含了好几种方式(类)，但是每一种方式都包含一下方法： 1. compute_gradients();2.apply_gradients();3.minimize();TensorFlow中的优化函数:SGD 所谓的随机梯度下降,就是指,由于取的样本是一批一批的,因此,每批数据之间有可能会导致参数的梯度更新方向不一致,因此叫随机梯度下降优点：在初期解决了...
2018-05-18 16:10:48
1556
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人