文章目录
前言
明天来补充三四部分。
一、线性硬间隔SVM
1.应用对象
完全线性可分的样本集合。
2.几何角度
找到一个超平面,与两类样本点的距离都足够远,来对样本进行划分。该划分超平面可定义为
w ∗ x + b ∗ = 0 {w}^{\mathrm{*}} {x}+b^*=0 w∗x+b∗=0
划分决策函数可定义为
f ( x ) = s i g n ( w ∗ x + b ∗ ) f(x)=sign({w}^{\mathrm{*}}{x}+b^*) f(x)=sign(w∗x+b∗)
即如果 w ∗ x + b ∗ > 0 , 则 f ( x ) = + 1 {w}^{\mathrm{*}}{x}+b^*>0,则f(x)=+1 w∗x+b∗>0,则f(x)=+1;如果 w ∗ x + b ∗ < 0 , 则 f ( x ) = − 1 ; {w}^{\mathrm{*}}{x}+b^*<0,则f(x)=-1; w∗x+b∗<0,则f(x)=−1;
3.硬间隔最大化
3.1间隔(magin)
离划分超平面最近的点到超平面的距离:
min w , b , x i 1 ∥ w ∥ ∣ w x i + b ∣ \min _{
{w},{b}, {x}_{i} } \frac{1}{\|{w}\|} \left|{w}{ {x}_{i}+b}\right| w,b,