Cross Validation

以下是我一直迷惑的、也是刚看到的validation set与training set、test set的关系：

 In particular,  we cannot use the test set for the purpose of tweaking hyperparameters . Whenever you're designing Machine Learning algorithms, you should think of the test set as a very precious resource that should ideally never be touched until one time at the very end. Otherwise, the very real danger is that you may tune your hyperparameters to work well on the test set, but if you were to deploy your model you could see a significantly reduced performance. In practice, we would say that you  overfit  to the test set.

 Another way of looking at it is that if you tune your hyperparameters on the test set, you are effectively using the test set as the training set, and therefore the performance you achieve on it will be too optimistic with respect to what you might actually observe when you deploy your model. But if you only use the test set once at end, it remains a good proxy for measuring the generalization of your classifier .

 Luckily, there is a correct way of tuning the hyperparameters and it does not touch the test set at all. The idea is to split our training set in two: a slightly smaller training set, and what we call a validation set. 

以下简称交叉验证 (Cross Validation) 为 CV .

CV 是用来验证分类器的性能一种统计分析方法 , 基本思想是把在某种意义下将原始数据 (dataset) 进行分组 , 一部分做为训练集 (train set), 另一部分做为验证集 (validation set), 首先用训练集对分类器进行训练 , 在利用验证集来测试训练得到的模型 (model), 以此来做为评价分类器的性能指标 .

常见 CV 的方法如下 :

1).Hold-Out Method

将原始数据随机分为两组,一组做为训练集,一组做为验证集,利用训练集训练分类器,然后利用验证集验证模型,记录最后的分类准确率为此Hold-OutMethod下分类器的性能指标.此种方法的好处的处理简单,只需随机把原始数据分为两组即可,其实严格意义来说Hold-Out Method并不能算是CV,因为这种方法没有达到交叉的思想,由于是随机的将原始数据分组,所以最后验证集分类准确率的高低与原始数据的分组有很大的关系,所以这种方法得到的结果其实并不具有说服性.

2).K-fold Cross Validation(记为K-CV)

将原始数据分成K组(一般是均分),将每个子集数据分别做一次验证集,其余的K-1组子集数据作为训练集,这样会得到K个模型,用这K个模型最终的验证集的分类准确率的平均数作为此K-CV下分类器的性能指标.K一般大于等于2,实际操作时一般从3开始取,只有在原始数据集合数据量小的时候才会尝试取2.K-CV可以有效的避免过学习以及欠学习状态的发生,最后得到的结果也比较具有说服性.

3).Leave-One-Out Cross Validation(记为LOO-CV)

如果设原始数据有N个样本,那么LOO-CV就是N-CV,即每个样本单独作为验证集,其余的N-1个样本作为训练集,所以LOO-CV会得到N个模型,用这N个模型最终的验证集的分类准确率的平均数作为此下LOO-CV分类器的性能指标.相比于前面的K-CV,LOO-CV有两个明显的优点:

a.每一回合中几乎所有的样本皆用于训练模型,因此最接近原始样本的分布,这样评估所得的结果比较可靠。

b.实验过程中没有随机因素会影响实验数据,确保实验过程是可以被复制的。

但LOO-CV的缺点则是计算成本高,因为需要建立的模型数量与原始数据样本数量相同,当原始数据样本数量相当多时,LOO-CV在实作上便有困难几乎就是不显示,除非每次训练分类器得到模型的速度很快,或是可以用并行化计算减少计算所需的时间.

在 pattern recognition 与 machine learning 的相关研究中，经常会将 dataset分为 training 跟 test 这两个 subsets，前者用以建立 model，后者则用来评估该 model 对未知样本进行预测时的精确度，正规的说法是 generalization ability。在往下叙述之前，这边就必须点出一个极为重要的观念：只有 training data 才可以用在 model 的训练过程中，test data 则必须在 model 完成之后才被用来评估 model 优劣的依据。 

怎么将完整的 dataset 分为 training set 与 test set 也是学问，必须遵守两个要点： 
1.  training set 中样本数量必须够多，一般至少大于总样本数的 50%。 
2.  两组子集必须从完整集合中均匀取样。 
其中第 2 点特别重要，均匀取样的目的是希望减少 training/test set 与完整集合之间的偏差(bias)，但却也不易做到。一般的作法是随机取样，当样本数量足够时，便可达到均匀取样的效果。然而随机也正是此作法的盲点，也是经常是可以在数据上做手脚的地方。举例来说，当辨识率不理想时，便重新取样一组training set 与 test set，直到 test set 的辨识率满意为止，但严格来说这样便算是作弊了。 

Cross-validation 正是为了有效的估测 generalization error 所设计的实验方法，可以细分为 double cross-validation、k-fold cross-validation 与leave-one-out cross-validation。Double cross-validation 也称 2-fold cross-validation(2-CV)，作法是将 dataset 分成两个相等大小的 subsets，进行两回合的分类器训练。在第一回合中，一个 subset 作为 training set，另一个便作为 test set；在第二回合中，则将 training set 与 test set 对换后，再次训练分类器，而其中我们比较关心的是两次 test sets 的辨识率。不过在实务上 2-CV 并不常用，主要原因是 training set 样本数太少，通常不足以代表母体样本的分布，导致 test 阶段辨识率容易出现明显落差。此外，2-CV 中分 subset的变异度大，往往无法达到「实验过程必须可以被复制」的要求。 

K-fold cross-validation (k-CV)则是 double cross-validation 的延伸，作法是将 dataset 切成 k 个大小相等的 subsets，每个 subset 皆分别作为一次 test set，其余样本则作为 training set，因此一次 k-CV 的实验共需要建立 k 个models，并计算 k 次 test sets 的平均辨识率。在实作上，k 要够大才能使各回合中的 training set 样本数够多，一般而言 k=10 算是相当足够了。 

最后是 leave-one-out cross-validation (LOOCV)，假设 dataset 中有 n 个样本，那 LOOCV 也就是 n-CV，意思是每个样本单独作为一次 test set，剩余 n-1个样本则做为 training set，故一次 LOOCV 共要建立 n 个 models。相较于前面介绍的 k-CV，LOOCV 有两个明显的优点： 
     每一回合中几乎所有的样本皆用于训练 model，因此最接近母体样本的分布，估测所得的 generalization error 比较可靠。 
     实验过程中没有随机因素会影响实验数据，确保实验过程是可以被复制的。 
但 LOOCV 的缺点则是计算成本高，因为需要建立的 models 数量与总样本数量相同，当总样本数量相当多时，LOOCV 在实作上便有困难，除非每次训练 model 的速度很快，或是可以用平行化计算减少计算所需的时间。 

使用 Cross-Validation 时常犯的错误 ：
由于实验室许多研究都有用到 evolutionary algorithms(EA)与 classifiers，所使用的 fitness function 中通常都有用到 classifier 的辨识率，然而把cross-validation 用错的案例还不少。前面说过，只有 training data 才可以用于 model 的建构，所以只有 training data 的辨识率才可以用在 fitness function 中。而 EA 是训练过程用来调整 model 最佳参数的方法，所以只有在 EA结束演化后，model 参数已经固定了，这时候才可以使用 test data。 
那 EA 跟 cross-validation 要如何搭配呢？Cross-validation 的本质是用来估测(estimate)某个 classification method 对一组 dataset 的 generalization error，不是用来设计 classifier 的方法，所以 cross-validation 不能用在 EA的 fitness function 中，因为与 fitness function 有关的样本都属于 training set，那试问哪些样本才是 test set 呢？如果某个 fitness function 中用了cross-validation 的 training 或 test 辨识率，那么这样的实验方法已经不能称为 cross-validation 了。 

EA 与 k-CV 正确的搭配方法，是将 dataset 分成 k 等份的 subsets 后，每次取 1份 subset 作为 test set，其余 k-1 份作为 training set，并且将该组 training set 套用到 EA 的 fitness function 计算中(至于该 training set 如何进一步利用则没有限制)。因此，正确的 k-CV 会进行共 k 次的 EA 演化，建立 k 个classifiers。而 k-CV 的 test 辨识率，则是 k 组 test sets 对应到 EA 训练所得的 k 个 classifiers 辨识率之平均值。 

Inferrences：

http://cs231n.github.io/classification/

http://www.ilovematlab.cn/thread-49143-1-1.html