对于非线性特征集的分类过程可拆解为两步:
第一步:利用非线性映射,将数据从输入空间映射到特征空间中
第二步:使用线性学习器对特征空间的数据进行分类
将以上两个步骤融合在一起,隐式完成输入空间数据集到特征空间数据集的映射,建立非线性学习器的方法,称为核函数方法。
核是利用测试点和训练点的內积表示的决策规则。
几种常用核: 线性核、多项式核、高斯核、sigmoid核函数、混合核函数(前面几种结合起来运用的方法),设计一个核函数是很困难的,没有必要轻易尝试。
核函数的使用方法:
在碰到非线性可分数据的时候,直接调用上面列举的几个核函数,代入到支持向量机中,查看分类效果,如果效果不好再继续调用其他的核函数进行进一步调试
这样就不需要考虑输入空间到特征空间如何映射的问题,而只需要考虑的是核函数的适用条件以及分类效果。