matlab中使用SVM分类器时如何进行交叉验证附代码

我们在看论文时，经常会看到文章中出现“5折交叉验证”等字样，那么什么是k折交叉验证呢

在机器学习领域，K折交叉验证（K-fold cross validation）是一种常用的模型评估方法。其原理是将原始数据集随机分成K个子集，其中一个子集作为验证集，剩余的K-1个子集作为训练集，进行K次模型训练和验证。最终将K次验证结果的均值作为模型的评估结果，从而得到更可靠的模型效果评估指标。

那么我们为什么要使用k折交叉验证呢？

K折交叉验证在机器学习中具有重要意义，主要原因包括：

• 可以更好地评估模型的泛化能力，减少过拟合的风险；
• 充分利用数据集中的信息，提高模型评估的准确性；
• 对于小样本数据集，K折交叉验证可以更好地评估模型的性能；
• 在模型选择和超参数调优过程中，K折交叉验证可以提供客观的评价依据

bestc = 0;bestg = 0; bestacc = 0;
c=10.^(-4:4);
 g=2.^(-3:1:4);
 for i =1:length(c)
    for j = 1:length(g)
        cmd = ['-v 5 ','-c ',num2str(c(i)),' -g ',num2str(g(j))];%5折交叉验证
        acc = svmtrain(train_label',train_sample,cmd);
        
         acc = svmtrain(train_label',train_sample,cmd);
        if acc > bestacc
            bestc = c(i);
            bestg = g(j);
            bestacc = acc;      
        end
    end
 end

注意，我们最终得到是一组参数，即选择最优的c和g，而不是一个model。

参数c与惩罚项有关，而参数g是核函数中的gamma函数设置（这两个参数的取值在代码中已体现）。

选完这两个参数，再使用svmtrain函数进行训练和svmpredict进行预测就可以啦。

参考文章：

【1】k折交叉验证

【2】https://wenku.csdn.net/column/p0xhsqbwkq#:~:text=%E5%9C%A8%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%E9%A2%86%E5%9F%9F%EF%BC%8CK%E6%8A%98%E4%BA%A4%E5%8F%89%E9%AA%8C%E8%AF%81%EF%BC%88K-fold%20cross,validation%EF%BC%89%E6%98%AF%E4%B8%80%E7%A7%8D%E5%B8%B8%E7%94%A8%E7%9A%84%E6%A8%A1%E5%9E%8B%E8%AF%84%E4%BC%B0%E6%96%B9%E6%B3%95%E3%80%82%20%E9%80%9A%E8%BF%87%E5%B0%86%E6%95%B0%E6%8D%AE%E9%9B%86%E5%88%92%E5%88%86%E4%B8%BAK%E4%B8%AA%E5%AD%90%E9%9B%86%EF%BC%8C%E4%BE%9D%E6%AC%A1%E5%B0%86%E6%AF%8F%E4%B8%AA%E5%AD%90%E9%9B%86%E4%BD%9C%E4%B8%BA%E9%AA%8C%E8%AF%81%E9%9B%86%EF%BC%8C%E5%85%B6%E4%BD%99K-1%E4%B8%AA%E4%BD%9C%E4%B8%BA%E8%AE%AD%E7%BB%83%E9%9B%86%EF%BC%8C%E5%A4%9A%E6%AC%A1%E8%AE%AD%E7%BB%83%E6%A8%A1%E5%9E%8B%E5%B9%B6%E5%AF%B9%E6%A8%A1%E5%9E%8B%E6%80%A7%E8%83%BD%E8%BF%9B%E8%A1%8C%E8%AF%84%E4%BC%B0%EF%BC%8C%E4%BB%8E%E8%80%8C%E5%BE%97%E5%88%B0%E6%9B%B4%E5%8F%AF%E9%9D%A0%E7%9A%84%E8%AF%84%E4%BC%B0%E7%BB%93%E6%9E%9C%E3%80%82https://wenku.csdn.net/column/p0xhsqbwkq#:~:text=%E5%9C%A8%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%E9%A2%86%E5%9F%9F%EF%BC%8CK%E6%8A%98%E4%BA%A4%E5%8F%89%E9%AA%8C%E8%AF%81%EF%BC%88K-fold%20cross,validation%EF%BC%89%E6%98%AF%E4%B8%80%E7%A7%8D%E5%B8%B8%E7%94%A8%E7%9A%84%E6%A8%A1%E5%9E%8B%E8%AF%84%E4%BC%B0%E6%96%B9%E6%B3%95%E3%80%82%20%E9%80%9A%E8%BF%87%E5%B0%86%E6%95%B0%E6%8D%AE%E9%9B%86%E5%88%92%E5%88%86%E4%B8%BAK%E4%B8%AA%E5%AD%90%E9%9B%86%EF%BC%8C%E4%BE%9D%E6%AC%A1%E5%B0%86%E6%AF%8F%E4%B8%AA%E5%AD%90%E9%9B%86%E4%BD%9C%E4%B8%BA%E9%AA%8C%E8%AF%81%E9%9B%86%EF%BC%8C%E5%85%B6%E4%BD%99K-1%E4%B8%AA%E4%BD%9C%E4%B8%BA%E8%AE%AD%E7%BB%83%E9%9B%86%EF%BC%8C%E5%A4%9A%E6%AC%A1%E8%AE%AD%E7%BB%83%E6%A8%A1%E5%9E%8B%E5%B9%B6%E5%AF%B9%E6%A8%A1%E5%9E%8B%E6%80%A7%E8%83%BD%E8%BF%9B%E8%A1%8C%E8%AF%84%E4%BC%B0%EF%BC%8C%E4%BB%8E%E8%80%8C%E5%BE%97%E5%88%B0%E6%9B%B4%E5%8F%AF%E9%9D%A0%E7%9A%84%E8%AF%84%E4%BC%B0%E7%BB%93%E6%9E%9C%E3%80%82