目录
统计学习方法——感知机
感知机(perceptron)是二类分类的线性分类模型,输入为实例的特征向量,输出为实例的类别,取+1和-1二值。感知机对应与输入空间(特征空间)中将实例划分为正负两类的分离超平面,属于判别模型。
2.1 感知机模型
2.2.1 数据集的线性可分性
上述定义通俗来说,假如在二维平面,有一条直线可以把两类数据分开, 就是线性可分数据, 分不开就是线性不可分
如图2.1
2.2.2 感知机学习策略
输入空间到任意一点到超平面S的距离:
为方便统一,一般将任意向量x的-范数定义为:
对于误分类点来说:成立,
因为,此时,同理,因为,此时
误分类点到超平面S的距离是:
假设误分类点集合为M,所有误分类点到S的总距离为: