【机器学习】支持向量机【下】软间隔与核函数

有任何的书写错误、排版错误、概念错误等，希望大家包含指正。

在阅读本篇之前建议先学习：
【机器学习】拉格朗日对偶性
【机器学习】核函数

由于字数限制，分成两篇博客。
【机器学习】支持向量机【上】硬间隔
【机器学习】支持向量机【下】软间隔与核函数

线性支持向量机

软间隔最大化

在实际中，线性可分属于比较理想的情况，大多数数据都是线性不可分的，这时可以修改硬间隔最大化，使其成为软间隔最大化，来处理线性不可分问题。这里所谓的“线性不可分”是指，训练数据中有一些特异点（outlier），将这些特异点除去后，剩下大部分的样本点组成的集合是线性可分的。

线性不可分意味着某些样本点 ( x