什么是感知机?
感知机(Perceptron),又称神经元(Neuron,对生物神经元进行了模仿)是神 经网络(深度学习)的起源算法,1958年由康奈尔大学心理学教授弗兰克·罗森布拉 特(Frank Rosenblatt)提出,它可以接收多个输入信号,产生一个输出信号。
其中,x1和x2称为输入,w1和w2为权重,θ为阈值,y为输出。
神经元更为通用的表达式:
感知机的功能
- 作为分类器/回归器,实现自我学习
- 实现逻辑运算,包括逻辑和(AND)、逻辑或(OR)
- 组成神经网络
神经元作为分类器/回归器
神经元实现逻辑运算
实现逻辑和
实现逻辑或
感知机的缺陷
感知机的局限在于无法处理“异或”问题。
多层感知机
1975年,感知机的“异或”难题才被理论界彻底解决,即通过多个感知机 组合来解决该问题,这种模型也叫多层感知机(Multi-Layer Perceptron, MLP)。如下图所示,神经元节点阈值均设置为0.5
多层感知机解决异或问题的方法是,第一层的的两个感知机分别是与非门和或门,然后将第一层的两个输出作为第二层的与门的输入从而实现异或门。