matlab – 使用libsvm进行交叉验证后再培训

最新推荐文章于 2023-10-25 13:24:47 发布

qq_23385943

最新推荐文章于 2023-10-25 13:24:47 发布

阅读量650

点赞数

分类专栏： matlab 文章标签：人工智能机器学习

原文链接：http://www.voidcn.com/article/p-uzjigbga-btp.html

版权

matlab 专栏收录该内容

2 篇文章 0 订阅

订阅专栏

本文探讨了如何利用交叉验证选择LIBSVM中的C和gamma参数，并解释了-v选项的作用。作者分享了10折交叉验证过程中的准确率计算，以及如何在找到最佳参数后重新训练模型。同时，讨论了交叉验证在避免过拟合中的作用和不同模型下的准确性。最后，针对一个具体例子，作者疑惑为何使用新参数训练时结果不一致，并寻求解答。

摘要由CSDN通过智能技术生成

我知道交叉验证用于选择好的参数.找到它们后,我需要重新训练整个数据,而不需要-v选项.
但是我遇到的问题是,在用-v选项训练后,我得到交叉验证的准确性(例如85％).没有模型,我看不到C和gamma的值.那怎么重新训练？

Btw我应用10折交叉验证.
例如

optimization finished, #iter = 138
nu = 0.612233
obj = -90.291046, rho = -0.367013
nSV = 165, nBSV = 128
Total nSV = 165
Cross Validation Accuracy = 98.1273%

需要一些帮助

要获得最好的C和gamma,我使用LIBSVM FAQ中提供的这个代码

bestcv = 0;
for log2c = -6:10,
  for log2g = -6:3,
    cmd = ['-v 5 -c ', num2str(2^log2c), ' -g ', num2str(2^log2g)];
    cv = svmtrain(TrainLabel,TrainVec, cmd);
    if (cv >= bestcv),
      bestcv = cv; bestc = 2^log2c; bestg = 2^log2g;
    end
    fprintf('(best c=%g, g=%g, rate=%g)\n',bestc, bestg, bestcv);
  end
end

另一个问题：使用-v选项之后的交叉验证准确度与我们在没有-v选项的情况下训练时使用相似,并使用该模型进行预测？两个准确度是否相似？

另一个问题：交叉验证基本上通过避免过度拟合来提高模型的准确性.所以,它需要有一个模型才能改善.我对吗？此外,如果我有不同的模型,那么交叉验证的准确性会有所不同？我对吗？

另一个问题：在交叉验证准确性中,C和gamma的价值是多少？

图形是这样的

那么C的值是2和gamma = 0.0078125.但是当我用新参数重新训练模型时.该值与99.63％不一样.有什么理由吗？
提前致谢…

这里的-v选项真的意在用作避免过度配对问题的方法(而不是使用整个数据进行训练,对N-1折叠进行N-fold交叉验证训练,并对剩余的折叠进行测试)一个一个,然后报告平均精度).因此,它仅返回交叉验证精度(假设您有一个分类问题,否则是回归的均方误差)作为标量数而不是实际的SVM模型.
如果要执行模型选择,则必须使用交叉验证(类似于grid.py帮助器python脚本)实现网格搜索,以找到C和gamma的最佳值.

这不应该很难实现：使用MESHGRID创建一个值的网格,迭代整个所有对(C,γ)训练具有5倍交叉验证的SVM模型,并选择具有最佳CV精度的值. …

例：

%# read some training data
[labels,data] = libsvmread('./heart_scale');

%# grid of parameters
folds = 5;
[C,gamma] = meshgrid(-5:2:15, -15:2:3);

%# grid search, and cross-validation
cv_acc = zeros(numel(C),1);
for i=1:numel(C)
    cv_acc(i) = svmtrain(labels, data, ...
                    sprintf('-c %f -g %f -v %d', 2^C(i), 2^gamma(i), folds));
end

%# pair (C,gamma) with best accuracy
[~,idx] = max(cv_acc);

%# contour plot of paramter selection
contour(C, gamma, reshape(cv_acc,size(C))), colorbar
hold on
plot(C(idx), gamma(idx), 'rx')
text(C(idx), gamma(idx), sprintf('Acc = %.2f %%',cv_acc(idx)), ...
    'HorizontalAlign','left', 'VerticalAlign','top')
hold off
xlabel('log_2(C)'), ylabel('log_2(\gamma)'), title('Cross-Validation Accuracy')

%# now you can train you model using best_C and best_gamma
best_C = 2^C(idx);
best_gamma = 2^gamma(idx);
%# ...