激活函数的作用

当初学习神经网络的时候，看到代码发现在卷积层的后面经常会跟着一个激活函数，而且有很多种激活函数，当时有个疑问激活函数的作用到底是什么，之后看了一些老师的课程才有了一些了解。其实作用就是使网络更具有非线性、分类精度更精确。这么说可能很抽象，我把图片放在下面来分析一下：

这里可能涉及到了线性分类器和全连接神经网络的知识，在这里先讲激活函数，之后再把这两个知识补上。第一图是没有激活函数的分类效果，第二个图是使用激活函数的分类效果，很显然可以理解为啥非线性的分类效果好，因为第二个图假如没有使用激活函数的话，无法用一条直线将一种颜色的圈圈完美的分类出来。