交叉验证相关

1. cross-validation的结果稳定并不能说明没有过拟合。
2. 确定是否过拟合，要看variance是否比较高。
3. 判断variance是否比较高，要看test error是否比traing error明显高很多。
4. test error和training error的比较可以用10轮交叉验证的test error与training error的均值进行。
交叉验证与过拟合：
对于k折交叉验证，随着训练数据和验证数据的增加以及训练和验证的进度，到训练和验证完成，
如果训练误差和验证误差相差较大，则很可能发生可过拟合
交叉验证相对于固定测试集来说可以利用全样本来做测试，增加了测试集的多样性，在一定程度上可以说防止过拟合的。