支持向量机(SVM,Support Vector Machine):将数据集映射到多维空间中,然后寻找一个超平面将数据分开。——只要原始空间是有限维,就一定存在一个高维特征空间使样本可分。
那么问题来了,怎么找这个超平面呢?
如图,显然超平面最理想的就是绿色的那条(二维空间超平面就是条线,n维空间超平面是n-1维),因为它的泛化能力最强,健壮性最好;或者说,在如图两种分类中,要寻找距离这条线最近的点,在此基础上,让这些点距离这条线尽可能远,这样这条线就在中间了。
这个超平面可以通过如下线性方程描述:
wTx+b=0
其中 w 是法向量,决定超平面的方向,
(直线方程 Ax+By+C