文章目录
1.类型转换tf.cast()
tf.cast()函数的作用是执行 tensorflow 中张量数据类型转换,比如读入的图片如果是int8类型的,一般在要在训练前把图像的数据格式转换为float32。
tf.cast(x, dtype, name=None)
第一个参数 x: 待转换的数据(张量)
第二个参数 dtype: 目标数据类型
第三个参数 name: 可选参数,定义操作的名称
2.计算平均值 tf.reduce_mean
tf.reduce_mean 函数用于计算张量tensor沿着指定的数轴(tensor的某一维度)上的的平均值,主要用作降维或者计算tensor(图像)的平均值。
reduce_mean(input_tensor,
axis=None,
keep_dims=False,
name=None,
reduction_indices=None)
第一个参数input_tensor: 输入的待降维的tensor;
第二个参数axis: 指定的轴,如果不指定,则计算所有元素的均值,若axis=0,则计算垂直方向上的平均值,若axis=1,则计算水平方向上的平均值;
第三个参数keep_dims:是否降维度,设置为True,输出的结果保持输入tensor的形状,设置为False,输出结果会降低维度;
第四个参数name: 操作的名称;
第五个参数 reduction_indices:在以前版本中用来指定轴,已弃用;
3.计算综合tf.reduce_sum
tf.reduce_sum将矩阵的元素相加,可以按列,也可以按行,或者先按列后按行
reduce_sum(
input_tensor,
axis=None,
keep_dims=False,
name=None,
reduction_indices=None
)
input_tensor:输入的张量数组
axis:求和的维度,指定的轴,如果不指定,则计算所有元素的和,若axis=0,则计算垂直方向上的和,若axis=1,则计算水平方向上的和
keepdims:是否保持维度不变
4.指数衰减学习率tf.train.exponential_decay
tf.train.exponential_decay(
learning_rate,
global_step,
decay_steps,
decay_rate,
staircase=False,#默认为False
name=None
)
learning_rate:初始学习率
global_step:一共循环轮数
decay_steps:每多少轮,衰减一次
decay_rate:衰减比率
staircase:布尔值。如果True以不连续的间隔衰减学习速率,最后曲线就是锯齿状
5.正则化权重损失函数l1_regularizer/l2_regularizer
#L1正则化损失函数
tf.contrib.layers.l1_regularizer(lambda)(weight)
#L2正则化损失函数
tf.contrib.layers.l2_regularizer(lambda)(weight)
lambda:正则化的权重