python 神经网络激活函数sigmoid函数

一、sigmoid函数

sigmoid函数 由于其单增及反函数单增等性，sigmoid函数常被用做神经网络的激活函数，将变量映射到0，1之间。所以主要用来做二分类神经网络。

由于其平滑、易于求导的特性，处理特征相差不是很大或者复杂的数据效果比较好。

当然对于反向传播，sigmoid涉及求导除法，特别容易出现梯度消失，那么就无法完成深度数网络。

sigmoid函数的公式：

                                  

反向 对x求导公式：

                                  

python 定义sigmoid函数：

def sigmoid(x):
    return 1.0/(1+np.exp(-x))

sigmoid函数的使用：

nums = np.arange(-10, 10, step=1) #生成一个numpy数组
fig, ax = plt.subplots(figsize=(12,4))  #绘制子图
ax.plot(nums, sigmoid(nums), 'r')   #绘制sigmoid的函数图像
plt.show()

效果图：