之前说过:“线性的svm永远是直线,那能否让它曲折一点?”
有!:加核函数,对特征做非线性处理。
这样的特征如果用线性svm决对不能达到想要的结果
那如果我把桌子’啪’!拍了一下呢?
这就是“核”,将不能在此维度所分类的点,放入高纬度中去。
先来介绍一下多项式核:
SVC多项式核:
把问题转化成
然后将xixj放入一个函数(多项式核函数)中:
就是这样:
SVC-高斯核:
高斯核是一个对应无限空间的核函数,用泰勒展开式:
无限空间的矢量表达式
图像处理,用庞大的库预测等
高斯核里的参数:gamma,在分母上所以,越大就越窄,越小就越宽
SVM多分类问题:
上面指出的都是二分类问题,那怎么用svm多分类?
OvO与OvR:
OvR
one vs rest,即一对剩余所有,如字面意思,有的时候称为OvA,one vs all
如果选A,则B与C视为一类进行svm分类,以此类推,有三个分类器 ,选择预测概率高的就是结果
OvO
one vs one,即一对一,就是进行一对一的比较
A对B,B对C,A对C构建三个svm分类器
最后,选择赢数最高的分类结果
这两种本质上还是二分类