如何划分训练集、验证集、测试集

一、数据的划分及各部分的作用

  在机器学习、深度学习领域，我们通常会将数据分为训练集、验证集和测试集三部分。
  训练集的目的是去训练不同的模型；
  验证集则是去评估各个模型，选出最好的1或2个模型；
  测试集则是最后测试一下选出的模型。测试集不是必须的！

二、训练集/测试集/验证集的划分比例

  当数据集规模较小时（如100、1000、10000，可以理解为规模小于百万时），一般会采用传统的划分方法，即按照：
  方式一：将训练集和测试集按照70%、30%的比例划分得到，然后从训练集中取10%作为验证集。
  方式二：按照60/20/20的比例划分数据，分别得到训练集、测试集、验证集。
  当数据规模超过百万时，传统的划分方式不再适用，此时可以按照98/1/1的比例来划分数据，甚至可以将验证集的比例划分的更小（如0.25 0.25 甚至是0.1， 0.1）。