Soft Margin
前面的假设一直都是线性可分,可是如果对所有样本不能线性可分(比如有noisy)怎么办?或者过拟合怎么办?
缓解该问题的一个方法就是允许支持向量机在一些样本上出错,为此引入软间隔(soft margin)这个概念。即允许在一些样本上出错,可以有些样本不满足:
yi(θTxi+b)≥1
所以优化目标写成:
minθ,b12||θ||2+C∑i=1pℓ0/1(yi(θTxi+b)−1) ✿
前面的假设一直都是线性可分,可是如果对所有样本不能线性可分(比如有noisy)怎么办?或者过拟合怎么办?
缓解该问题的一个方法就是允许支持向量机在一些样本上出错,为此引入软间隔(soft margin)这个概念。即允许在一些样本上出错,可以有些样本不满足: