假设有这样一个特征空间上的训练数据集(线性可分)
其中,。
为第i个特征向量,也叫实例,
为
的类标记。(
,
)为样本点。
函数间隔:
几何间隔:
原理就是点到直线的距离:
硬间隔最大化:
在线性可分的训练集中,线性可分的分离超平面可以有无数个,但我们要找的是几何间隔最大的分离超平面,不难知道的是,这样的超平面是唯一的。这样的超平面是很好的,它能够把离得最近的点很好的分开,如图绿线即为最大间隔分离超平面。
那么我们该如何求得这个最大超平面呢?
我们想要的无非是几何间隔的最大值,需要满足的条件是每个点都在线的两侧