机器学习----训练、验证、测试的区别

最近项目上遇到一些训练方面的测试，数据样本的不同，测试结果区别很大，准确率有时不高，网上查了下相关的帖子、做法，参考一下。

参考一：转自（https://www.cnblogs.com/morwing/p/12144476.html）

验证集 —— 是模型训练过程中单独留出的样本集，它可以用于调整模型的超参数和用于对模型的能力进行初步评估。

测试集 —— 用来评估模最终模型的泛化能力。但不能作为调参、选择特征等算法相关的选择的依据。

 

一个形象的比喻：

    训练集-----------学生的课本；学生 根据课本里的内容来掌握知识。

    验证集-----------作业，通过作业可以知道 不同学生学习情况、进步的速度快慢。

    测试集-----------考试，考的题是平常都没有见过，考察学生举一反三的能力。

　　传统上，一般三者切分的比例是：6：2：2，验证集并不是必须的。

　　那么为什么要测试集呢？

　　　　a)训练集直接参与了模型调参的过程，显然不能用来反映模型真实的能力（防止课本死记硬背的学生拥有最好的成绩，即防止过拟合)。

　　　　b)验证集参与了人工调参(超参数)的过程，也不能用来最终评判一个模型（刷题库的学生不能算是学习好的学生）。

　　　　c)所以要通过最终的考试(测试集)来考察一个学(模)生(型)真正的能力（期末考试）。

　　但是仅凭一次考试就对模型的好坏进行评判显然是不合理的，所以就要使用交叉验证法。交叉验证法的作用就是尝试利用不同的训练集/验证集划分来对模型做多组不同的训练/验证，来应对单独测试结果过于片面以及训练数据不足的问题。（就像通过多次考试，才得知哪些学生是比较厉害的）

好文要顶 关注我 收藏该文