【待补充】支持向量机(SVM)原理和python实现

本文详细介绍了支持向量机(SVM)的原理,包括线性硬间隔SVM、线性软间隔SVM和非线性SVM。探讨了SVM的几何意义、最大间隔优化、核函数的应用以及如何通过拉格朗日乘子法转换原问题为对偶问题。同时,文章还提及SOM算法的原理,最后提供了Python代码实现。
摘要由CSDN通过智能技术生成


前言

明天来补充三四部分。


一、线性硬间隔SVM

1.应用对象

完全线性可分的样本集合。

2.几何角度

找到一个超平面,与两类样本点的距离都足够远,来对样本进行划分。该划分超平面可定义为
w ∗ x + b ∗ = 0 {w}^{\mathrm{*}} {x}+b^*=0 wx+b=0
划分决策函数可定义为
f ( x ) = s i g n ( w ∗ x + b ∗ ) f(x)=sign({w}^{\mathrm{*}}{x}+b^*) f(x)=sign(wx+b)
即如果 w ∗ x + b ∗ > 0 , 则 f ( x ) = + 1 {w}^{\mathrm{*}}{x}+b^*>0,则f(x)=+1 wx+b>0,f(x)=+1;如果 w ∗ x + b ∗ < 0 , 则 f ( x ) = − 1 ; {w}^{\mathrm{*}}{x}+b^*<0,则f(x)=-1; wx+b<0,f(x)=1;
 

3.硬间隔最大化

3.1间隔(magin)

离划分超平面最近的点到超平面的距离:
min ⁡ w , b , x i 1 ∥ w ∥ ∣ w x i + b ∣ \min _{ {w},{b}, {x}_{i} } \frac{1}{\|{w}\|} \left|{w}{ {x}_{i}+b}\right| w,b,

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值