【数据增广】无监督增广——RandAugment

一年多没有写博客了，一转眼回国就入职了。最近在从事关于计算机视觉方面的工作，一方面也是为了记录自己平日学习的点滴与思考养成良好的阅读习惯，另一方面也是为自己的知识技能库做一些储备。

言归正传，我们来看论文。

这是2019年11月由google brain团队发布的一篇关于无监督数据增广的文章，名称为

RandAugmentation：Practical automated data augmentation with reduced search space
本博为阅读思考及个人翻译，有问题的地方还请大家多多指正。

Repo：
https://github.com/tensorflow/tpu/blob/master/models/official/efficientnet/autoaugment.py

摘要

近期研究表明，数据增广可以显著提高深度学习的泛化性能，尤其是在图像分类和目标检测方面均取得了不错的成果。尽管这些策略主要目的是为了提升精度，与此同时，在半监督机制下因为对原有数据集进行了扩充，从而增加了数据集的鲁棒性。

常见的图像识别任务中，增广的过程一般都是作为预处理阶段的任务之一。往往由于数据集过大而造成极大的计算损耗障碍。此外，由于所处的阶段不同，这些方法无法像模型算法一样随意调整正则化强度（尽管数据增广的效果直接取决于模型和数据集的大小）。

传统自动数据增广的策略通常是基于小数据集在轻量模型上训练后再应用于更大的模型。这就在策略上造成了一定的限制约束。本文则解决了这两大限制。RandAugment可以将数据增广所产生的增量样本空间大大缩小，从而使其可与模型训练过程捆绑在一起完成，避免将其作为独立的预处理任务来完成。此外，本文设置了增广强度的正则化参数，可以根据不同的模型和数据集大小进行调整。RandAugment方法可以作为外置工具作用于不同的图像处理任务、数据集工作中。

在CIFAR-10/100、SVHN和ImageNet数据集上能持平甚至优于先前的自动数据增广方法性能。在ImageNet数据集上，Baseline采用EfficientNet-B7结构的精度为84%，而AutoAugment+Baseline的精度为84.4%，本文的RandAugment+Baseline则达到了85.0%的准确率，分别提升了1和0.6个百分点。在目标检测方面，Baseline采用ResNet结构，添加RandAugment的效果较Baseline和其他增广