本文详细介绍了SVM算法，包括完整的推导过程，硬间隔和软间隔的概念，以及SVM为何引入拉格朗日优化方法。此外，还讨论了SVM的核函数选择及其在不同情况下的应用，并对比了SVM与逻辑回归的联系和区别。
文章目录
1. 完整的推导一遍SVM
SVM是一种二分类模型，基本想法就是基于训练集和样本空间中找到一个最优的划分超平面，将两类样本分割开来，首先要知道什么样的划分法才能称为“最”优划分。最优划分是指两类的样本点到分类超平面的距离都最远。
在样本空间中，划分超平面可用 w T x + b = 0 w^Tx + b=0 wTx+b=0，记为 （ w , b ） （w,b） （w,b）,样本点 （ x i , y i ） （x_i,y_i） （xi,yi）到划分超平面的函数间隔为: γ ′ = y ( w T x + b ) \gamma^{'} = y(w^Tx + b) γ′=y(wTx+b)，几何间隔为： γ = y ( w T x + b ) ∣ ∣ w ∣ ∣ = γ ′ ∣ ∣ w ∣ ∣ \gamma = \frac{y(w^Tx + b)}{||w||} = \frac{\gamma^{'}}{||w||} γ=∣∣w∣∣y(
最低0.47元/天 解锁文章
扫一扫
3492
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
