核函数及SVM核函数的选择

核函数：

实际应用中，我们经常遇到数据线性不可分问题，可将数据从低维空间映射到高维空间，使数据在高维空间线性可分，之后在优化时需要计算内积，复杂度很高。这个时候就可以使用核函数，而核函数准确地说是一种核技巧，它也是从低维到高维的一种转换，但是却避免了直接在高维空间中进行复杂计算，可以在低维上进行计算，但实质上却能将分类效果表现在高维上，从而能够简便地解决非线性问题。

SVM核函数的选择：

吴恩达老师老师的建议：
1、当样本特征数目远远大于样本数量时，特征维度已经够高，这个时候往往数据线性可分，可考虑使用线性核函数。
2、当样本数量一般，样本特征维度也不高时，可以考虑高斯核
3、当样本数量较多，样本特征较少时，可考虑人工增加一些特征，使样本线性可分，然后再考虑使用线性核函数的SVM或者LR.