神经网络的激活函数之sigmoid

根据每一层前面的激活、权重和偏置，我们要为下一层的每个激活计算一个值，但在将该值发送给下一层之前，要是用激活函数对这个输出进行缩放。

1. sigmoid函数

sigmoid函数是一个logistic函数，意思是说不管输入什么，输出都在0到1之间，也就是输入的每个神经元、节点或激活都会被锁放在一个介于0到1之间的值。

sigmoid 这样的函数常被称为非线性函数，因为我们不能用线性的项来描述它。很多激活函数都是非线性或者线性和非线性的组合

这个问题与反向传播有关，在反向传播中，我们要计算每个权重的梯度，即针对每个权重的小更新，这样做的目的是优化整个网络中激活值的输出，使其能在输出层得到更好的结果，进而实现对成本函数的优化。

在反向传播中，必须计算每个权重影响损失函数的额比例，具体做法是计算成本函数相对于每个权重的偏导数，假设我们不定义单个的权重，而是将最后一层L中的所有权重w定义为w^L，则它们的导数为：

注意，当求偏导数时，我们要找到 ∂a^L 的方程，然后仅微分 ∂z^L，其余部分保持不变。我们用撇号「'」来表示任意函数的导数。当计算中间项 ∂a^L/∂z^L 的偏导数时，我们有：

则sigmoid函数的导数为：

当向这个函数输入一个很大的x值，得到几乎为0的y值，也就是说当输入wa+b时，可能得到一个接近于0的值。

当x时一个很大的值(正或负)时，本质上就是用一个几乎为0的值来乘这个偏导数的其余部分。

如果有太多的权重都有这样很大的值，那么根本就没法得到可以调整权重的网络。如果不调整这些权重，那么网络就只有细微的更新，这样算法就不能随时间给网络带来多少改善，对于针对一个权重的偏导数的每个计算，我们都将其放入一个梯度向量中，而且将使用这个梯度向量来更新神经网络。想象一下，如果梯度向量的所有值都接近0，那么我们根本就无法真正更新任何东西。