训练集、验证集、测试集的理解

在有监督(supervise)的机器学习中，数据集常被分成2~3个，

即：训练集(train set)，验证集(validation set)，测试集(test set)，

训练集很容易理解，是模型用来学习的，验证集和测试集很容易混淆。

 

-训练集（train set） —— 用于模型拟合的数据样本。
-验证集（validation set）—— 是模型训练过程中单独留出的样本集，它可以用于调整模型的超参数和用于对模型的能力进行初步评估。 通常用来在模型迭代训练时，用以验证当前模型泛化能力（准确率，召回率等），以决定是否停止继续训练。
                 在神经网络中， 我们用验证数据集去寻找最优的网络深度（number of hidden     layers)，或者决定反向传播算法的停止点或者在神经网络中选择隐藏层神经元的数量；

               在普通的机器学习中常用的交叉验证（Cross Validation) 就是把训练数据集本身再细分成不同的验证数据集去训练模型。

-测试集（test set） —— 用来评估模最终模型的泛化能力。但不能作为调参、选择特征等算法相关的选择的依据。

一个形象的比喻：

    训练集-----------学生的课本；学生 根据课本里的内容来掌握知识。

    验证集------------作业，通过作业可以知道 不同学生学习情况、进步的速度快慢。

    测试集-----------考试，考的题是平常都没有见过，考察学生举一反三的能力。