机器学习(13)--SVM支持向量机

概念:

分割界面之间没有数据点,分割界面之间的间隔,叫做硬间隔

分割界面之间有数据点,分割界面之间的间隔,叫做软间隔

支持向量确定平面,加了核函数就可做非线性的 

 

高斯核:

gama越大,分割界面非线性越强烈

c越大,过渡带越窄(分割界面之间的大小)

 

 

 训练集上有多个分类平面,但哪个是最优的?

最大化距离平面最近点和平面的距离

 

 

 

 

w乘以一些数,不改变距离

y不同于正例负例的y=+1,-1,这里是函数值  

 

 

约束条件个数 = x的个数n个

约束问题下的最优化问题,使用拉格朗日乘子法 

w=0 的x就不是支持向量,又因为yx不为0,所以看alpha的值是否为0,就知道相应点是否为支持向量

 

alpha可以使用SMO算法求解,也可以用梯度下降等

 

 

 

 

线性可分时,约束的到分割面的距离为1

 

当c特别大时,说明不容许错误的点,过渡带会窄

相反,则会过渡带宽,泛化能力也会高

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值