文章结构如下:
1: 感知机模型
2: 感知机学习策略2.1 数据集的线性可分
2.2 感知机学习策略
3: 感知机学习算法3.1 感知机学习算法的原始形式
3.2 算法的收敛性
3.3 感知机python实现
3.4 感知机学习算法的对偶形式
4:参考文献感知机:
输入为实例的特征向量,输出为实例的类别,取+1和-1;
感知机对应于输入空间中将实例划分为正负两类的分离超平面,属于判别模型;
导入基于误分类的损失函数,利用梯度下降法对损失函数进行极小化;
感知机学习算法具有简单而易于实现的优点,分为原始形式和对偶形式。
1: 感知机模型
定义.感知机:假设输入空间
,输出空间
。输入
表示实例的特征向量,对应于输入空间的点;输出
表示实例的类别。由输入空间到输出空间的函数
称为感知机。其中,
和
为感知机模型参数,
叫做权值或权值向量,
叫偏置,
表示
和
的内积。
是符号函数,即
感知机是一种线性分类模型,属于判别模型。感知机模型的假设空间是定义在特征空间中的所有线性分类模型或线性分类器,即函数集合
。
线性方程
对应于特征空间
中的一个超平面
,其中
是超平面的法向量,
是超平面的截距。超平面
将特征空间划分为两部分,位于其中的点被分为正、负两类,超平面
称为分离超平面。
2: 感知机学习策略
2.1 数据集的线性可分
给定数据集
其中,
,如果存在某个超平面
能够将数据集的正实例和负实例完全正确地划分到超平面的两侧,即对所有
的实例
,有
,对所有