人工智能、神经网络学习——激活函数

激活函数

神经网络如下所示：

1.为什么要使用激活函数

我们知道，神经网络是y = f(x)，在上图中，a为激活值，通过激活函数计算而得，且激活函数是用来加入非线性因素的，因为线性模型的表达能力不够。
具体示例如下：

在上图中，数据是线性不可分的，即很难用一条直线分割数据，故此时有两种方法，一种为修改x,y坐标，使之变为f(x),g(y)，然后将其区分，第二种方法为利用非线性激活函数，使之变为

将其变为可区分类型即可。

2.激活函数的使用

常用的激活函数有：

利用这四种激活函数，可以解决大部分问题。在较简单的神经网络问题中，激活函数可以自定义，都能较好的解决问题，但在复杂神经网络中，要注意激活函数的选择。