神经元为什么需要激活函数？？？

激活函数

输入：权重和加偏置

输出：神经元的激活值

为什么激活函数都是非线性的呢？

如果激活函数是线性的，输入输出如下图所示。激活函数的输出值我们可以通过再次训练权重w和偏置b来获得，这样我们通过激活函数的意义就没了。

带权输入 相当于线性映射

经过激活函数（sigmoid，ReIU等非线性的激活函数）相当于进行非线性映射

个人的理解：有些分类是线性函数无法解决的 各种线性函数的部分区域经过不同的激活函数进行扭曲 不同激活函的扭曲的方法不同 网络层次越深 扭曲的次数越多 对数据的拟合越好 所以网络才会加强决策函数的非线性能力。

决策函数：就是确定决策边界的那个函数