《统计学习方法》学习笔记（3）--感知机

补点小常识：1958年，（李航老师《统计学习方法中》说到的是1957年）计算科学家Rosenblatt提出了由两层神经元组成的神经网络–“感知器”（Perceptron）–单层神经网络。感知器是当时首个可以学习的ANN。Rosenblatt现场演示了其学习识别简单图像的过程，在当时的社会引起了轰动。人们认为已经发现了智能的奥秘，许多学者和科研机构纷纷投入到神经网络的研究中。美国军方大力资助并认为神经网络比“原子弹工程”更重要。直到1969年，这个时期可以看作神经网络的第一次高潮。

推荐一篇文章，写的深入浅出、很浅显易懂。详见：神经网络浅讲：从神经元到深度学习

感知机

1.感知机（Perceptron），线性二分类模型，属于判别模型：
输入：各个sample的特征向量，输出：+1或者是-1

（1）. 感知机的模型：

解释：线性方程wx