数据增强

在深度学习中数据增强的意思
深度学习往往需要大量的样本数进行训练，而实际情况中数据并没有我们想象中的那么多，这时就要用到数据增强
数据增强是用来1.增加训练的数据量，提高模型的泛化能力。2.增加噪声数据，提升模型的鲁棒性，避免过拟合。
数据增强可以分为两类，一类是离线增强，一类是在线增强。
离线增强 ： 直接对数据集进行处理，数据的数目会变成增强因子 x 原数据集的数目 ，这种方法常常用于数据集很小的时候
在线增强 ： 这种增强的方法用于，获得 batch 数据之后，然后对这个 batch 的数据进行增强，如旋转、平移、翻折等相应的变化，由于有些数据集不能接受线性级别的增长，这种方法长用于大的数据集，很多机器学习框架已经支持了这种数据增强方式，并且可以使用 GPU 优化计算。
下面列举几种比较简单的数据增强的效果

1. 翻转
   水平或者垂直旋转图像，增加数据样本
   
2. 缩放
   图像可以被放大或缩小。放大时，放大后的图像尺寸会大于原始尺寸。大多数图像处理架构会按照原始尺寸对放大后的图像进行裁切。下图中的图像都是进行了一定比例的放大

3. 裁剪
我们随机从原始图像中采样一部分。然后将这部分图像调整为原始图像大小。

4.高斯噪声
过拟合（Overfitting）经常会发生在神经网络试图学习高频特征（即非常频繁出现的无意义模式）的时候，而学习这些高频特征对模型提升没什么帮助。
那么如何处理这些高频特征呢？一种方法是采用具有零均值特性的高斯噪声，它实质上在所有频率上都能产生数据点，可以有效的使高频特征失真，减弱其对模型的影响。