神经网络学习

神经元模型

神经元有n个输入和一个输出。
由公式：

我们可能看出，神经元的工作原理：输入信号Xi乘上权值Wi的和减去神经元的偏移θ ，再经过激活函数。

激活函数

激活函数的作用：如果没有激活函数的话，网络输出的就还是线性的，无法解决非线性的问题。如果想要解决非线性的问题就要使得系统变成非线性的，所以引入激活函数。
以下是常见的激活函数。

relu函数

sigmod函数

阶跃函数

多层网路