深度学习防止过拟合的方法

$\quad$过拟合即在训练误差很小,而泛化误差很大,因为模型可能过于的复杂,使其”记住”了训练样本,然而其泛化误差却很高,在传统的机器学习方法中有很大防止过拟合的方法,同样这些方法很多也适合用于深度学习中,同时深度学习中又有一些独特的防止过拟合的方法,下面对其进行简单的梳理.

1. 参数范数惩罚

$\quad$范数正则化是一种非常普遍的方法,也是最常用的方法,假如优化:

$$min \quad Obj(\theta)=L(y,f(x))+\alpha G(\theta)$$
$\quad$其中 $L$为经验风险,其为在训练样本上的误差,而$G$为对参数的惩罚,也叫结构风险. $\alpha$是平衡两者,如果太大则对应的惩罚越大,如过太小,甚至接近与0,则没有惩罚.
$\quad$最常用的范数惩罚为L1,L2正则化,L1又被成为 Lasso:
$$||w||_1=|w1|+|w2|+...$$
$\quad$即绝对值相加,其趋向于是一些参数为0.可以起到特征选择的作用.
$\quad$L2正则化为:
$$||w||_2=\sqrt{w1^2+w2^2+...}$$
$\quad$其趋向与,使权重很小.其又成为 ridge.
$\quad$关于更多可以参考: 机器学习中的范数规则化之（一）L0、L1与L2范数

2. 数据增强

$\quad$让模型泛化的能力更好的最好办法就是使用更多的训练数据进行训练,但是在实践中,我们拥有的数据是有限的,解决这一问题可以人为的创造一些假数据添加到训练集中.
$\quad$一个具体的例子:
$\quad$在AlexNet中,将256*256图像随机的截取224*224大小,增加了许多的训练样本,同时可以对图像进行左右翻转,增加样本的个数,实验的结果可以可降低1%的误差.
$\quad$在神经网络中输入噪声也可以看做是数据增强的一种方式.

3. 提前终止

$\quad$如下图所示(图片来源deep learning),当随着模型的能力提升,训练集的误差会先减小再增大,这样可以提前终止算法减缓过拟合现象.关于算法的具体流程参考deep learning.

$\quad$提前终止是一种很常用的缓解过拟合的方法,如在决策树的先剪枝的算法,提前终止算法,使得树的深度降低,防止其过拟合.

4. 参数绑定与参数共享

$\quad$在卷积神经网络CNN中(计算机视觉与卷积神经网络 ),卷积层就是其中权值共享的方式,一个卷积核通过在图像上滑动从而实现共享参数,大幅度减少参数的个数,用卷积的形式是合理的,因为对于一副猫的图片来说,右移一个像素同样还是猫,其具有局部的特征.这是一种很好的缓解过拟合现象的方法.
$\quad$同样在RNN中用到的参数共享,在其整条时间链上可以进行参数的共享,这样才使得其能够被训练.

5. bagging 和其他集成方法

$\quad$其实bagging的方法是可以起到正则化的作用,因为正则化就是要减少泛化误差,而bagging的方法可以组合多个模型起到减少泛化误差的作用.
$\quad$在深度学习中同样可以使用此方法,但是其会增加计算和存储的成本.

6. Dropout

$\quad$Dropout提供了一种廉价的Bagging集成近似,能够训练和评估指数级数量的神经网络。dropout可以随机的让一部分神经元失活,这样仿佛是bagging的采样过程,因此可以看做是bagging的廉价的实现.
$\quad$但是它们训练不太一样,因为bagging,所有的模型都是独立的,而dropout下所有模型的参数是共享的.
$\quad$通常可以这样理解dropout:假设我们要判别一只猫,有一个神经元说看到有毛就是猫,但是如果我让这个神经元失活,它还能判断出来是猫的话,这样就比较具有泛化的能力,减轻了过拟合的风险.

7. 辅助分类节点(auxiliary classifiers)

$\quad$在Google Inception V1中,采用了辅助分类节点的策略,即将中间某一层的输出用作分类,并按一个较小的权重加到最终的分类结果中,这样相当于做了模型的融合,同时给网络增加了反向传播的梯度信号,提供了额外的正则化的思想.

8. Batch Normalization

$\quad$在Google Inception V2中所采用,是一种非常有用的正则化方法,可以让大型的卷积网络训练速度加快很多倍,同事收敛后分类的准确率也可以大幅度的提高.
$\quad$BN在训练某层时,会对每一个mini-batch数据进行标准化(normalization)处理,使输出规范到N(0,1)的正太分布,减少了Internal convariate shift(内部神经元分布的改变),传统的深度神经网络在训练是,每一层的输入的分布都在改变,因此训练困难,只能选择用一个很小的学习速率,但是每一层用了BN后,可以有效的解决这个问题,学习速率可以增大很多倍.

未完待续…

参考资料:

1. deep learning
2. tensorflow实战
3. 机器学习中的范数规则化之（一）L0、L1与L2范数