1、间隔与支持向量
分类的核心思想是在给定的样本空间寻找超平面,将不同类别的样本分开。在样本空间中,超平面
其中,为法向量,决定了超平面你的方向,b为位移项,决定超平面与原点之间的距离。任意点到超平面的距离可以表示为:
如果超平面(w,b)能够正确的对样本进行分类,对于,若有,如果,则有,满足改条件的样本点称之为支持向量(support vector)
2、对偶问题
对偶问题是优化中的经典问题,如果现有的规划问题无法求解,或者很难求解,可以将其转化为对偶问题进行求解。
SVM问题的对偶问题可以表示为:
3、核函数
常见的核函数包括: