tensorflow中tanh函数
引用API:tensorflow.math.tanh(x)
tanh函数
优点:收敛速度比sigmod函数快
输出是0均值
缺点:函数导数输出为0~1,多次神经网络计算后可能趋向于0,产生梯度消失,无法继续更新参数
幂运算复杂,训练时间长
引用API:tensorflow.math.tanh(x)
tanh函数
优点:收敛速度比sigmod函数快
输出是0均值
缺点:函数导数输出为0~1,多次神经网络计算后可能趋向于0,产生梯度消失,无法继续更新参数
幂运算复杂,训练时间长