**在神经网络层激活函数中,我们需要设置初始化,初始化对象用于随机设定网络层激活函数中权重值或偏置项的初始值,包括Kernel_initializer、bias_initializer。好的权重初始化值能帮助加快模型收敛速度。包括以下几种初始化对象:**
Zeros,所有参数值都初始化为0。
Ones,所有参数值都初始化为1。
Constant(values=1),将所有参数都初始化为某一个常量,比如设置为0.5。
RandomNormal:将所有参数值都按正态分布所生成的随机数来初始化。均 值默认为0,标准差认为0.05,可以通过mean和stddev来修改。
TruncatedNormal,使用截断正态分布生成随机数来初始化参数向量,均值默认为0,标准差认为0.05。对于均值的两个标准差之外的随机数会被遗忘并重新采样。
RandomUniform,按照均匀分布生成随机数来初始化参数值,默认分布最小值为-0.05,最大值为0.05,可以通过minval和maxval 选项分别修改。
自定义
-