一、sigmoid的偏导数计算公式
g’(z)=a(1-a)
二、tanh的偏导数计算公式
g’(z)=1-a^2
三、relu的偏导数计算公式
g’(z)= 0(z<0),1(z>=0)
四、leaky relu的偏导数计算公式
g’(z)= 0.01(z<0),1(z>=0)
一、sigmoid的偏导数计算公式
g’(z)=a(1-a)
二、tanh的偏导数计算公式
g’(z)=1-a^2
三、relu的偏导数计算公式
g’(z)= 0(z<0),1(z>=0)
四、leaky relu的偏导数计算公式
g’(z)= 0.01(z<0),1(z>=0)