SVM

1.核支持向量机是非常强大的模型，在各种数据集上的表现都很好。svm允许决策边界很复杂，即使数据只有几个特征。它在低维数据和高维数据（即很少特征和很多特征）上都表现都很好，但对样本个数的缩放表现不好。在有多达10000个样本的数据上运行svm可能表现良好，但如果数据量达到100000甚至更大，在运行时间和内存使用方面可能会面临挑战。

svm的另一个缺点是预处理数据和调参都需要非常小心，这也是为什么如今很多应用中用都都是基于树的模型，比如随机森林和梯度提升（需要很少的预处理，甚至不需要预处理）。此外，svm模型很难检查，可能很难理解为什么会这么预测，而且也难以将模型向非专家进行解释。

不过svm仍然是值得尝试的，特别是所有特征的测量单位相似（比如都是像素密度）而且范围也差不多时。

核svm的重要参数是正则化参数c、核的选择以及与核相关的参数。虽然我们讲的是RBF核，但scikit-learn中还有其他选择，RBF核只有一个参数gamma，它是高斯核宽带的倒数。gamma和c控制的都是模型复杂度，较大的值都对应更为复杂都模型。因此，这两个参数的设定通常是强烈相关的，应该同时调节。