在学习的过程中,我们经常会听到CV,那么什么是CV呢?
交叉验证(Cross Validation,简称CV)是在机器学习建立模型和验证模型参数时常用的方法。顾名思义,就是重复的使用数据,把得到的样本数据进行切分,组合为不同的训练集和测试集。用训练集来训练模型,测试集来评估模型的好坏。
在有监督的机器学习过程中,我们首先第一步要做的就是将数据划分为训练集和测试集,Hold-Out就是比较简单的一个划分方法,其中训练集用于训练模型,测试集用于验证模型。但Hold-Out不属于CV,因为这种方式有一个很大的缺点:只进行了一次划分,当数据集的划分不是随机进行的,数据结果具有偶然性,如果在某次划分中,训练集里全是容易学习的数据,测试集里全是复杂的数据,这样就会导致欠拟合;反之,容易导致过拟合。
from sklearn.model_selection import train_test_split
X_train,X_test,y_train,y_test = train_test_split(data_train,y_train,test_size = 0.20,random_state = 50)
常用的CV方式,有多种,例如:
K折交叉验证(K-Fold Cross Validation)
K折交叉验证会把样本数据随机的分成 K份,每次随机的选择 K−1份作为训练集,剩下的1份做测试集。当这一轮完成后,重新随机选择 K−1份来训练数据。若干轮(小于 K)之后,选择损失函数评估最优的模型和参数。
留一交叉验证(Leave-one-out Cross Validation)
此时 K等于样本数 N,这样对于 N个样本,每次选择 N−1个样本来训练数据,留一个样本来验证模型预测的好坏。此方法主要用于样本量非常少的情况,比如对于普通适中问题,N小于50时,一般采用留一交叉验证。