《统计学习》感知机学习笔记

2.1感知机

1、模型介绍

2、学习策略

存在某个超平面S将数据集的正负实例点完全正确的划分到超平面两侧，则称数据线为线性可分数据集；否则，为线性不可分。

学习策略：最小化损失函数后求得参数

2.2、梯度下降法

2.3、感知机学习算法

1、学习算法之原始形式：学习问题

2、原始形式：随机梯度下降法

分离超平面不唯一

3、学习算法之对偶形式

修改次数越多的点，对最终结果影响最大

算法：

对偶形式：Gram矩阵

4、算法的收敛性

T为训练集