SVM(最大间隔)
Margin的定义:margin表示的是样本点到超平面的距离中最小的距离
Margin: min(1/||w||*(Wx+b)) 为什么最后会变成1呢?
我们找最小margin其实是用平行于超平面的两个决策平面进行平移,最小的Margin就可以理解为求解两个决策边界的最小距离,在Wx+b=0上方的值为正(1),下方为负(-1),刚好与样本点一致,这里并不是说本身带入Wx+b的值为正数,相反会是负数:Wx+b+T=0,Wx+b=-T。但是我们可让Wx2+b=-T(T表示上方结局变化)左右两边同乘-1,变为正数,-Wx+(-b)= T,然后把负号放到W和b中,这只影响最后求解的结果,并不影响我们求解的过程。然后两决策边界相减同理 可以让右边为1,缩放。
解释下:超平面上方的决策边界:Wx+b+T1=0 下方:Wx+b-T=0,相减Wx+b=2T,两边除以2T。