matlab实现 | 五折交叉

 

参考：

https://blog.csdn.net/chenbang110/article/details/7604975

https://blog.csdn.net/tianguiyuyu/article/details/80697223

 

理论

一般情况将K折交叉验证用于模型调优，找到使得模型泛化性能最优的超参值。，找到后，在全部训练集上重新训练模型，并使用独立测试集对模型性能做出最终评价。在机器学习中，将数据集A分为训练集（training set）B和测试集（test set）C，在样本量不充足的情况下，为了充分利用数据集对算法效果进行测试，将数据集A随机分为k个包，每次将其中一个包作为测试集，剩下k-1个包作为训练集进行训练。

交叉验证（Cross validation)，交叉验证用于防止模型过于复杂而引起的过拟合.
 

matlab代码实现

data=double(xtrain');
label=double(ytrain');  %要求数据集每一行代表一个样本 ;label每行为标签

[M,N]=size(data); % M:总样本量； N:一个样本的元素总数
indices=crossvalind('Kfold',data(1:M,N),5);  %进行随机分包

for k=1:5  %交叉验证k=10，10个包轮流作为测试集
    test = (indices == k);   %获得test集元素在数据集中对应的单元编号
    train = ~test;  %train集元素的编号为非test元素的编号
    train_data=data(train,:);%从数据集中划分出train样本的数据
    train_label=label(train,:);
    test_data=data(test,:);  %test样本集
    test_label=label(test,:);
end

其中，indices是一个N维列向量，每个元素对应的值为该单元所属的包的编号（即该列向量中元素是1~k的整随机数），利用这个向量即可通过循环控制来对数据集进行划分。

test 和 train 为 N维布尔列向量，用于抽取数据。