k折交叉验证优缺点_k折交叉验证(R语言)

“机器学习中需要把数据分为训练集和测试集，因此如何划分训练集和测试集就成为影响模型效果的重要因素。本文介绍一种常用的划分最优训练集和测试集的方法——k折交叉验证。”

k折交叉验证

K折交叉验证(k-fold

cross-validation)首先将所有数据分割成K个子样本，不重复的选取其中一个子样本作为测试集，其他K-1个样本用来训练。共重复K次，平均K次的结果或者使用其它指标，最终得到一个单一估测。

这个方法的优势在于，保证每个子样本都参与训练且都被测试，降低泛化误差。其中，10折交叉验证是最常用的。

实例代码

在线性分类器与性能评价(R语言)中，我们将数据集随机抽取70%作为训练集，剩下30%作为测试集，通过线性回归的方法进行预测，通过ROC和AUC评价模型效果。现在，我们使用k折交叉验证的方法，选取最优的训练集和测试集，建立线性分类器并评价模型效果。

1、数据导入并分组。导入数据，并使用caret包中的createFolds()函数，根据标签列将数据分成10份 。

target.url

'https://archive.ics.uci.edu/ml/machine-learning-databases/undocumented/connectionist-bench/sonar/sonar.all-data'

data

set.seed(17)

require(caret)

folds

2、选取最优训练集与测试集。构建for循环，得到十次交叉验证预测的AUC值。并纪录取值最大的一组，作为最优的训练集与测试集划分。

library(pROC)</