神经网络中的交叉验证

在神经网络中，经常会用到交叉验证的方法，何为交叉验证呢？

交叉验证有很多方法，在神经网络中，我们一般指的是k倍交叉验证（k-fold cross validation），也称作循环估计。

具体指：

        将数据集分成k个子集，每个子集均做一次测试集，其余的作为训练集。交叉验证重复k次，每次选择一个子集作为

测试集，并将k次的平均交叉验证识别正确率作为结果。

优点：所有的样本都被作为了训练集和测试集，每个样本都被验证一次。我们通常使用10-folder。

缺点：神经网络本身训练时间就比较长，采用交叉验证会花费大量的时间。所以在海量数据下，一般会更多的采用验证

数据集的形式来评测模型的效果。