第 5 章 神经网络:
M-P神经元:
激活函数有两种:
一种是阶跃函数——sgn函数:
还有一种是Sigmoid函数:
5.1 感知机(Perceptron):
感知机由两层神经元组成,输入层接收外界输入信号后传递给输出层,输出层是M-P神经元,也称为“阈值逻辑单元”。
感知机只有输出层神经元进行激活函数处理,即只拥有一层功能神经元。
因此,只能解决“与”、“或”、“非”这种线性可分的数据集的问题,也就是在二维平面中,可以用一条直线,把正负样本分开。但是像“异或”问题,感知机无能为力。
注意,实际上最后一步的最小化函数的w和x是在原来的基础上增加了一维的,由n变成n+1。
5.2 误差逆传播算法:
公式图片来自Datawhale。