sklearn svm 调参_网舟科技 | 使用SVM模型进行分类预测时的参数调整技巧

原标题：网舟科技 | 使用SVM模型进行分类预测时的参数调整技巧

SVM是一种在小样本低维度下比较适用的非线性建模方法，相对比其他常用的算法(比如决策树)，模型根据调参的好坏所表现的性能波动非常大。当我们决定使用SVM模型，模型的效果非常差，甚至还不如传统的线性模型的时候，很有可能使我们设置的参数范围不合理。

以下是一些个人的调参经验：

一：如果判断调参范围是否合理。

正常来说，当我们参数在合理范围时，模型在训练集和测试集的准确率都比较高；当模型在训练集上准确率比较高，而测试集上的准确率比较低时，模型处于过拟合状态；当模型训练集和测试集上准确率都比较低，模型处于欠拟合状态。正常来说测试集上的准确率都会比训练集要低。

二：如何确定参数的调节方向。

当使用线性支持向量机时，我们只需调节正则化参数C的范围即可。

这里我们以rbf作为核的SVM为例，这时候我们需要调节的参数是正则化参数C和核函数参数gamma。为了保证调参的精确度，一般我们都使用网格搜索法来确定参数。

网格搜索法就是给出各个参数的调节范围和调节步长，计算出每个参数的可能取值，然后遍历所有的组合情况，返回最佳的参数值。

C和gamma的有效范围是~。C表示模型对误差的惩罚系数；gamma反映了了数据映射到高维特征空间后的分布，gamma越大，支持向量越多，gamma值越小，支持向量越少。C越大，模型越容易过拟合；C越小，模型越容易欠拟合。gamma越小，模型的泛化性变好，但过小，模型实际上会退化为线性模型；gamm