支持向量机是建立在统计学习理论基础之上的新一代机器学习算法,支持向量机的优势主要体现在解决线性不可分问题,他通过引入和函数,巧妙地解决了在高维空间中的内积运算,从而很好的解决了非线性分类问题。
构造出一个具有良好性能的SVM,核函数的选择是关键,核函数的选择包括两部分工作:一是核函数类型的选择,二是确定核函数类型后相关参数的选择。因此如何根据具体的数据选择恰当的核函数是SVM应用领域遇到的一个重大难题,也成为科研工作者所关注的焦点,即便如此,却依然没有得到具体的理论或方法来指导核函数的选取。
1、经常使用的核函数
核函数的定义并不困难,根据泛函的有关理论,只要一种函数K(xi,yi)满足Mercer条件,他就对应某一变换空间的内积。对于判断哪些函数是核函数到目前为止也取得了重要的突破,得到Mercer定理和一下常用的核函数类型:
(1)线性核函数
K ( x , x i ) = x ⋅ x i
(2)多项式核函数
K ( x , x i ) =