间隔与支持向量
位于两类训练样本的“正中间”的划分超平面,即中间那根粗线。
w 为法向量,决定了超平面的方向。
b为为一项,决定超平面与远点之间的距离。
对偶问题
无约束的优化:
带等式约束的优化:
带不等式约束的优化
具体了解可参考这位网友的解释:
从几何角度解释:https://www.zhihu.com/question/58584814/answer/159863739
从经济学角度解释:https://www.zhihu.com/question/58584814/answer/1144183071 (思路清奇,更容易懂)
核函数
不可划分的超平面分类样本
软间隔与正则化
在现实任务往往很难确定合适的核函数使得训练样本在特征空中线性可分;
即使找到了某个核函数使训练集在特征空间中线性可分,也很难界定这个貌似线性可分的结果不是由于过拟合所造成。
常见的软间隔支持向量机
支持向量回归
这相当于以 f(x) 为中心,构建了一个宽度为2€的问隔带,若训练样本落入此间隔带,则认为是被预测正确的。