每天5分钟机器学习算法:支持向量机的目标函数是怎么来的?

支持向量机的核心

两个线性可分的数据集会有多个分割超平面,那么哪个分割超平面最好呢?我们可以通过下面的方式来寻找这个最优的超平面:

  • 我们需要线找到数据点中距离分割超平面距离最近的点(找最小)
  • 然后尽量使得距离超平面最近的点的距离的绝对值尽量的(求最大)

其中距离分割超平面最近的点就是支持向量,所以总的来说我们第一步需要先找到支持向量,然后再让我们的分割超平面距离支持向量越远越好,这就是支持向量机的核心,这句话可以通过下面的式子来总结:

 

首先我们需要明白一点,式子中的1表示样本(xi,yi)到分割超平面的距离,我们首先找到距离最小的样本n,然后再找到让样本n距离超平面最大化的参数w,b。

我们可以将这个目标函数进行改变,我们可以把最小化的部分(寻找支持向量)放到约束条件中, 此时的目标函数变为了:

 

γ就是支持向量到分割超平面的距离,我们的意思是让所有的样本点到超平面的距离都应该≥γ,这就是约束条件,上面的argmax就是表示支持向量到分割超平面的距离。这样我们就将这两部分分开了

如果我们此时将参数w和b同时除以γ,那么此时的分割超平面并不会发生变化&#x

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

幻风_huanfeng

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值