Fast AutoAugment

1. Introduction

基于数据驱动的深度网络模型，已经成为当前的主流。但是，深度学习模型通常会陷入到overfitting的问题中。目前而言，Data augment已经成为了一个比价有用的方法用来扩展数据的多样性和数量。
目前而言已经有很多工作对于数据增强的改进已经取得了不小的进步。近年来，人们提出了很多新的最优数据增强的方法。
在本领域中的开山之作是AutoAugment。AutoAugment是只用了数据增强的方法自动的搜索数据增强的策略。AutoAugment是需要成百上千的GPU时间。
最近，人们提出了Population Based Augmentation算法（PBA）.这个方法主要的使用方法是种群算法来改进AutoAugment的方法。
在本文中，本文提出了一种新的算法策略这种测类不需要反复的实验。相反，本文提出了一种新的算法来最大化被增强的gplie和另外一个unaugment的数据分布。
在这篇论文中，我们提出了一个搜索数据增强的策略的方式，被叫做Fast Augment,受Bayesian DA。我们意识到运用有效密度匹配算法在政策搜索。实验表明提出的方法能够搜索的速度比之前google 提出的AutoAugment效果要好。

3. Fast AutoAugment

在这个section中，我们引入了symbolic augmentation operation 并且制定了新的搜索策略，高效密度匹配，这样才能发现最优的有效。最后，本文描述了implementation 基于贝叶斯超参数优化。

3.1 Search Space

一般而言，O是一套数据增强的策略，可以完成数据集合的映射。每个操作O有两个参数：（1）probabilty p。(2)magnitude 。目标如下：