机器学习之感知机

今天，我将和大家一起学习机器学习中的感知机算法。

 

感知机（perceptron）是二类分类的线性分类模型，其输入为实例的特征向量，输出为实例的类别，取+1和-1二值。感知机对应于输入空间（特征空间）中将实例划分为正负两类的分离超平面。因此，感知机学习旨在求出将训练数据进行线性划分的分离超平面。为此，导入基于误分类的损失函数，利用梯度下降法对损失函数进行极小化，求得感知机模型，从而实现利用得到的感知机模型对新的输入实例进行分类。

 

感知机算法由Rosenblatt提出，是神经网络与支持向量机的基础。下表列出了感知机与支持向量机的一些异同：

 

 

 

下面，我们正式进入感知机算法的学习。我们将从三个方面来学习感知机，分别是：

1、感知机模型

2、感知机的学习策略

3、感知机学习算法

 

 

 

 

---

 

 

首先，我们来学习感知机的模型。

 

 

如下图所示，感知机分为学习和分类两个过程。在学习过程中，对于训练数据集