使用方法
train_opt =tf.tf.train.GradientDescentOptimizer(learning_rate=0.1).minimize(loss)
minimize的内部存在两个操作:
(1)计算各个变量的梯度 (2)用梯度更新这些变量的值
主要的参数说明:
loss: Tensor,需要优化的损失;
var_list: 需要更新的变量(tf.Varialble)组成的列表或者元组,默认值为GraphKeys.TRAINABLE_VARIABLES,即tf.trainable_variables()
注意:
1、Optimizer.minimize(loss, var_list)中,计算loss所涉及的变量(假设为var(loss))包含在var_list中,也就是var_list中含有多余的变量,并不 影响程序的运行,而且优化过程中不改变var_list里多出变量的值;
2、若var_list中的变量个数少于var(loss),则优化过程中只会更新var_list中的那些变量的值,var(loss)里多出的变量值 并不会改变,相当于固定了网络的某一部分的参数值。
参考链接:
Markdown进阶(更改字体、颜色、大小,设置文字背景色,调整图片大小设置居中)
CSDN-markdown 文字样式设置(字体, 大小, 颜色, 高亮底色)