超级会员免费看
本文介绍了如何使用拉格朗日乘子法来最大化支持向量机中支持向量与超平面的距离。首先，文章阐述了目标函数，然后通过拉格朗日乘子法解释了如何在有等式约束条件下求解最优解。接着，详细展示了将目标函数转化为对偶问题的过程，并分析了KKT条件在不等式约束下的应用。最后，指出支持向量机的特性，即最终模型仅与支持向量相关。
在上一篇文章中，我们介绍过了支持向量机算法的核心思想，在这篇文章中，将介绍使用拉格朗日乘子法来最大化支持向量与超平面之间的距离，下面可能涉及到的数学计算比较多，我会尽可能的细化求解过程。
一、找目标函数
先看一张图
我们将三角形的图标分为1类，将正方形图标分为-1类，通过红色直线（超平面）将1类和-1类分割开来，而其中1类的点和-1类的点距离超平面最近的点被称为支持向量，也就图中用红色圆圈标记的三角形和正方形。我们的目标就是将两个不同类别的支持向量组成的直线（两条蓝色直线）之间的距离最大化，两个平面的方程式已经给出了，其中的表示?权重，b表示偏置（截距）。所以，两个类的支持向量所组成的平面之间的距离为γ=2/(||ω||)，其中ω为平面的法向量，如果不清楚两个平行平面之间的距离是怎么计算的，请看下面的推导公式（排版可能有点乱）。下面给出两个平行平面的距离是如何计算的
订阅专栏 解锁全文
3158
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
