Python3入门机器学习之9.2Soft Margin SVM和SVM的正则化

Python3入门机器学习

9.2 Soft Margin SVM和SVM的正则化

一个一般的例子，如下图，此时我们的数据是线性不可分的，hard Margin SVM无法应用。

这时我们需要一个具有容错能力的SVM，这种SVM就叫做Soft Margin SVM。

注意：ζ它不是一个固定的值，而是对于每一个样本数据 i 都有一个相应的 ζi 。

只有ζi >= 0是不够的，如果它取正无穷，很显然对于所有的数据点都将满足这样的条件，此时容错的范围就太大了。ζ要做的事情是，希望它有一定的容错空间，但是容错空间又不能太大，于是有：


系数C越大，它的容错空间越小；C越小，容错空间越大。

注意：实际使用SVM时，要做数据标准化处理！