原文来自 《老饼玩转-BP神经网络》https://www.bbbdata.com/nn
目录
tansig和logsig经常用于做BP神经网络的激活函数,它们的导数都有良好的性质:导数可以用自身表示。
本文讲述tansig和logsig的导数推导过程。
一、公式
tansig和logsig都是S型曲线,它们的区别在于,tansig的取值范围在[-1,1]之间,而logsig的范围在[0,1]之间 。
二、导数
tansig和logsig的导数公式如下:
tansig求导
logsig求导
三、求导过程
下面我们具体推导tansig和logsig的导数过程
(一)tansig求导过程
又
即有:
所以,tansig只需要算出自身的平方值,再1-即可以得到导数值。
(二)logsig求导过程
所以,logsig只要算出自身值,再 自身体-自身值的平方即可得到导数值。
相关文章