Deep Learning 基础 – 训练集、验证集、测试集
Tags: Deep_Learning
本文主要包含如下内容:
训练集、验证集、测试集
训练集仅仅用于训练,验证集则纯粹用于超参数的调节,而测试集用于验证训练模型的泛化能力。
验证集多次使用,以不断调参使用,可以使得模型在验证集上有很好的效果,有可能验证集不具有足够的泛化性能,因此导致训练好的模型泛化能力差。从狭义来讲,验证集没有参与梯度下降的过程,也就是说是没有经过训练的;但从广义上来看,验证集却参与了一个“人工调参”的过程,我们根据验证集的结果调节了迭代数、调节了学习率等等,使得结果在验证集上最优。因此,我们也可以认为,验证集也参与了训练。
测试集只需使用一次,往往数据量比较大,具有比较好的泛化性。因此用于评估训练好之后模型的泛化性能。往往验证集是测试集的一部分数据。
验证集和测试集是可以相互转化的,只要验证集具有足够的泛化性,那么就没有测试集的存在价值了。