统计学习方法——感知机

目录

 

统计学习方法——感知机

2.1 感知机模型

2.2.1 数据集的线性可分性                                

2.2.2 感知机学习策略

2.3 感知机学习算法

2.4 python实现

运行结果

reference


统计学习方法——感知机

感知机(perceptron)是二类分类的线性分类模型,输入为实例的特征向量,输出为实例的类别,取+1和-1二值。感知机对应与输入空间(特征空间)中将实例划分为正负两类的分离超平面,属于判别模型。

2.1 感知机模型

2.2.1 数据集的线性可分性

 

 

 

 

      上述定义通俗来说,假如在二维平面,有一条直线可以把两类数据分开, 就是线性可分数据, 分不开就是线性不可分

             如图2.1

 

 

                                        

2.2.2 感知机学习策略

输入空间R^{n}到任意一点x_0到超平面S的距离:

                                                                              \frac{1}{\left \| w\right \|}|w*x+b|

为方便统一,一般将任意向量x的l_p-范数定义为:

                                                                    \left \| x \right \|=\sqrt[p]{\sum_{i}|x_i|^p}

对于误分类点(x_i,y_i)来说:-y_i(w*x_0+b)>0成立,

因为w*x_i+b>0,此时y_i<0,同理,因为w*x_i+b<0,此时y_i>0

误分类点到超平面S的距离是:

                                                                -\frac{1}{\left \| w\right \|}y_i|w*x+b|

假设误分类点集合为M,所有误分类点到S的总距离为:

                                                                

  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值