深度学习中的Data Augmentation和代码实现
本篇博客全部都参考自这里
1 原理
深度学习中,为了避免出现过拟合(Overfitting),通常我们需要输入充足的数据量.为了得到更加充足的数据,我们通常需要对原有的图像数据进行几何变换,改变图像像素的位置并保证特征不变。
当然,数据增强并不总是有效的,数据增强对于有些情况下训练并没有帮助;所以,最好的方法还是多找一些数据。
可以通过图像的几何变换, 使用以下一种或多种组合数据增强变换来增加输入数据的量. 具体的方法都来自数字图像处理的内容。
- 旋转 | 仿射变换(Rotation/reflection): 随机旋转图像一定角度; 改变图像内容的朝向;
- 翻转变换(flip): 沿着水平或者垂直方向翻转图像;
- 缩放变换(zoom): 按照一定的比例放大或者缩小图像;
- 平移变换(shift): 在图像平面上对图像以一定方式进行平移;可以采用随机或人为定义的方式指定平移范围和平移步长, 沿水平或竖直方向进行平移. 改变图像内容的位置;
- 尺度变换(scale): 对图像按照指定的尺度因子, 进行放大或缩小; 或者参照SIFT特征提取思想, 利用指定的尺度因子对图像滤波构造尺度空间. 改变图像内容的大小或模糊程度;
- 剪裁(crop): 在图像的不同位置剪裁出patch,因为深度网络具有局部感受野概念,所以改变图像的全局,能帮助学习特征;
- 对比度变换(contrast): 在图像的HSV颜色空间,改变饱和度S和V亮度分量,保持色调H不变. 对每个像素的S和V分量进行指数运算(指数因子在0.25到4之间), 增加光照变化;
- 噪声扰动(noise): 对图像的每个像素RGB进行随机扰动, 常用的噪声模式是椒盐噪声和高斯噪声;
颜色变换(color): 在训练集像素值的RGB颜色空间进行PCA,得到RGB空间的3个主方向向量,p1, p2, p3;3个特征值, λ1,λ2,λ3.
对每幅图像的每个像素 Ixy=[IRxy,IGxy,IBxy]T 进行如下的变化:
[p1,p2,p3][α1λ1,α2λ2,α3λ3]T
其中:αi是满足均值为0,方差为0.1的随机变量.
注意:
- 几何变换不改变像素值, 而是改变像素所在的位置;
- 通过数据增强的方法扩张了数据集的范围, 作为输入时, 以期待网络学习到更多的图像不变性特征.
2 代码
语言:python
库:Keras
安装:
- sudo pip install numpy
- sudo pip install scipy
- sudo pip install keras
代码:
#!/usr/bin/env python
#-*- coding: utf-8 -*-
# import packages
from keras.preprocessing.image import ImageDataGenerator, array_to_img, img_to_array, load_img
datagen = ImageDataGenerator(
rotation_range=0.2,
width_shift_range=0.2,
height_shift_range=0.2,
shear_range=0.2,
zoom_range=0.2,
horizontal_flip=True,
fill_mode='nearest')
img = load_img('~/Desktop/lena.jpg') # this is a PIL image, please replace to your own file path
x = img_to_array(img) # this is a Numpy array with shape (3, 150, 150)
x = x.reshape((1,) + x.shape) # this is a Numpy array with shape (1, 3, 150, 150)
# the .flow() command below generates batches of randomly transformed images
# and saves the results to the `preview/` directory
i = 0
for batch in datagen.flow(x, batch_size=1,
save_to_dir='~/Desktop/preview',
save_prefix='lena',
save_format='jpg'):
i += 1
if i > 20:
break # otherwise the generator would loop indefinitely
参数讲解:
- 主要函数:ImageDataGenerator 实现了大多数上文中提到的图像几何变换方法.
- rotation_range: 旋转范围, 随机旋转(0-180)度;
- width_shift and height_shift: 随机沿着水平或者垂直方向,以图像的长宽小部分百分比为变化范围进行平移;
- rescale: 对图像按照指定的尺度因子, 进行放大或缩小, 设置值在0- 1之间,通常为1 / 255;
- shear_range: 水平或垂直投影变换, 参考这里
- zoom_range: 按比例随机缩放图像尺寸;
- horizontal_flip: 水平翻转图像;
- fill_mode: 填充像素, 出现在旋转或平移之后.