下面是书本截图:
根据a与ξ取值如何确定支持向量分布
这里解释一下,上面的话:
1. Why 0<ai<C, 则ξi=0,支持向量x就落在间隔边界上?
因为我们可以从KKT条件中可以知道,只要0<ai<C那么ξi必为0;由下图原始问题我们可以知道,当ξ为0时不就相当于没有引入软间隔,那就像线性可分数据集一样,支持向量落在间隔边界上咯。
KKT条件简化参考这里:
(SMO算法中关于优化变量的第一个变量选择的问题(KKT简化))
2. Why ai=C要分类讨论ξ?
因为当ai=C时,我们只知道ξi是大于0的哈哈哈
3. Why 0<ξi<1时,支持向量落在分离超平面之间?
因为,看原始问题的约束条件,函数间隔>=1-ξ。那0<ξi<1,不就等价于函数间隔大于0小于1咯。又因为间隔边界与分离超平面的函数距离为1。所以