Augmentation For GAN

最新推荐文章于 2022-07-09 17:19:23 发布
最新推荐文章于 2022-07-09 17:19:23 发布
阅读量273 收藏
点赞数
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/MTandHJ/article/details/115700331
版权

文章目录

Zhao S., Liu Z., Lin J., Zhu J. and Han S. Differentiable Augmentation for Data-Efficient GAN Training. NIPS, 2020.

Karras T., Aittala M., Hellsten J., Laine S., Lehtinen J. and Alia T. Training Generative Adversarial Networks with Limited Data. NIPS, 2020.

概

Augmentation 在分类识别中已经是非常常用的技术了, 但是在GAN中却并不多用, 究其原因主要是:

  1. Augmentation容易泄露导致生成器最后拟合的是变换后的分布;
  2. 技术上, augment之后是否保留梯度(这个其实是我个人的想法, 总觉得augmentation只能施加在图片上, 原来大部分augmentation都可以直接在tensor上实现, 虽然这可能不是现成的).

主要内容

Differentiable Augmentation

image-20210414151731197

添加augmentation有三种策略:

  1. T ( x ) T(x) T(x), 仅对真实样本施加, 显然这种情况会让生成器学到恶心的东西;
  2. T ( x ) , T ( G ( z ) ) T(x), T(G(z)) T(x),T(G(z)), 对二者都施加, 但仅用于训练判别器;
  3. T ( x ) , T ( G ( z ) ) T(x), T(G(z)) T(x),T(G(z)), 对二者都施加, 同时训练生成器, 当然这就要求augmentation不破坏梯度.

本文采取的就是第三种策略.

Adaptive Augmentation

这篇文章有一个点我觉得很有意思, 其认为augmentation应当是’invertible’的.
倘若我们对一个生成的图片施加随机的旋转: 0, 90, 180, 270, 那么显然, 最后的生成器就不一定生成正常视角(0)的图片, 这是因为, 不管生成最后变成 0, 90, 180, 270度的概率都是一样的, 生成器没法判断哪一个才是我们想要的是对的.

所以, 这篇文章认为, 对于每一个augmentation应该添加一个概率 p < 1 p < 1 p<1, 即按照小于1的概率实施.

虽然代码给出了很多augmentation, 不过最后选择的是比较弱的俩种…

注: Diff_Aug 虽然没有这个概率 p p p, 但是它选择的变换都是满足‘invertible’的.

代码

Diff_Aug

Ada_Aug

MTandHJ
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Image Augmentations for GAN Training
weixin_37958272的博客
08-18 494
Image Augmentations for GAN Training 为了提高分类器的准确性和鲁棒性，数据增强已经被广泛研究。然而，在以前的研究中，图像增强在改善图像合成的GAN模型方面的潜力还没有被彻底研究。在这项工作中，我们系统地研究了现有的各种增强技术在各种环境下对GAN训练的有效性。我们提供了关于如何为vanilla GANs和具有正则化的GANs增强图像的见解和指南，大大改善了生成图像的保真度。 令人惊讶的是，我们发现，如果我们在真实图像和生成的图像上使用增强技术，vanilla GAN的生成
（2020，DA）用于数据高效 GAN 训练的可鉴别数据增强（Differentiable Augmentation）
最新发布
qq_44681809的博客
05-26 1095
本文是对自适应鉴别器增强（adaptive discriminator augmentation，ADA）一文中提出的、用于提升数据有限时 GAN 的性能的、可鉴别数据增强（Differentiable Augmentation，DiffAugment）的进一步研究（消融实验）。结果表明，需要同时对真实数据、生成数据以及生成器进行增强。
【论文阅读】Graph Contrastive Learning with Adaptive Augmentation
Lereno的博客
04-19 2482
Graph Contrastive Learning with Adaptive Augmentation 用于图数据增强的图对比学习 文章目录Graph Contrastive Learning with Adaptive Augmentation用于图数据增强的图对比学习摘要1 引言二、使用步骤1.引入库2.读入数据总结 摘要 近年来，对比学习（Contrastive Learning，CL）已成为一种成功的无监督图表示学习方法。大多数图的CL方法首先对输入图进行随机增强，以获得两个图的视图，并最大化两
【计算机视觉】针对图像的 Data Augmentation (数据扩充) 介绍，常用方法和 TensorFlow 实现
__阿健__的博客
04-21 2837
This article is a comprehensive review (全面回顾) of Data Augmentation techniques for Deep Learning, specific to images.
A survey on Image Data Augmentation for Deep Learning数据增强文献综述
Bruce_0712的博客
06-10 459
文章目录 1. Introduction 2. Image Data Augmentation techniques 2.1 Data Augmentations based on basic image manipulations 2.2 Geometric versus photometric transformations 2.3 Data Augmentations based on Deep Learning 3. Design considerations for image Data Augm
Synthetic Data Augmentation using GAN for Improved Liver Lesion Classification
09-17
本文介绍了一种使用生成对抗网络（GAN）来生成合成医疗影像数据的增强学习方法，旨在改进肝脏病变的分类性能。文章中提出了一种训练方案，首先是使用经典的影像数据增强方法来扩大训练集，随后进一步通过应用GAN技术...
GANs_for_data_augmentation
05-03
用于数据扩充的GAN 数据是深度学习中非常重要的因素。 大型，标记且平衡的数据集的存在通常对于模型在特定任务上的最佳执行至关重要。 但是，在现实世界中很难找到这样的数据，创建这些数据集是一项繁琐的任务。 该...
GAN-based-data-augmentation-for-improved-hate-speech-detection:SeqGAN数据扩充
03-13
基于GAN的数据增强，可改善仇恨语音检测SeqGAN数据增强用于改善仇恨语音检测，我们将SMOTE过采样方法用作基准。 我们还使用了四个训练有素的分类器-SVM，LSTM，BERT，Logistic回归。要求Tensorflow 1.15.0 Python ...
Augmentation for small object detection.pdf
05-12
本文是一篇关于目标检测领域的研究论文，标题为“Augmentation for small object detection”。论文的主要研究内容是针对小目标检测问题，在现有的目标检测技术中，尤其是当目标物体尺寸较小时，性能与检测大尺寸...
数据增广（data augmentation）在训练深度神经网络时的必要性解释
过招
03-22 843
Left-Ventricle Quantification Using Residual U-Net Kerfoot E., Clough J., Oksuz I., Lee J., King A.P., Schnabel J.A. (2019) Left-Ventricle Quantification Using Residual U-Net. In: Pop M. et al. (eds) Statistical Atlases and Computational Models of the Hea
AugGAN：基于GAN的图像数据增强
热门推荐
木盏
11-01 2万+
数据增强方法无疑是需要重点研究的基本任务之一，因为我们的主流深度学习算法还是一个有监督过程。台湾国立清华大学在ECCV2018发表了一篇AugGAN开始把GAN用在数据增强方面了，当然，这并不是这个领域的第一篇。不过很具有参考意义，也很能解决实际问题。所以特地写一个blog研究一番。 读本文需要懂GAN和Auto-Encoder的基本算法流程，没有GAN和AE基础的可以看我关于GAN和AE写的详...
f-GAN学习笔记
weixin_42365868的博客
07-06 421
f-GAN作为GAN的变种之一，它在真实数据的分布与生成数据的分布之间DIvergence（差距）的测量方面做出了改进，即使用F-Divergence来代替，其中F的意为函数function，它可以是KL(进而构成KL散度)、JS(进而构成JS散度)、W(进而构成Wasserstein散度)等等。其通式如下： Df(P∣∣Q)=∫xq(x)f(p(x)q(x))dxD_f(P||Q)=\int_xq(x)f(\frac{p(x)}{q(x)})dxDf​(P∣∣Q)=∫x​q(x)f(q(x)p(x)​)d
GAN论文2：DATA AUGMENTATION GENERATIVE ADVERSARIAL NET论文翻译和理解
deeplearningbo的博客
03-07 3997
GAN论文2：DATA AUGMENTATION GENERATIVE ADVERSARIAL NET论文阅读摘要介绍背景模型DATA AUGMENTATION GENERATIVE ADVERSARIAL NETWORK学习结构数据集DAGAN的训练与生成在源域上DAGAN的训练VANILLA分类器使用匹配网络和数据增强网络 one-shot学习结论 最近在研究数据增强用于扩充数据集训练，用以记...
GAN论文1：Data Augmentation in Emotion Classification Using Generative Adversarial Networks论文笔记
deeplearningbo的博客
01-22 1717
GAN论文阅读1:Data Augmentation in Emotion Classification Using Generative Adversarial Networks 附论文链接:https://arxiv.org/abs/1711.00648 最近看了几篇GAN的论文，写一下每篇论文的大致思路以便自己日后查看。如有问题，请留言指正。 论文思路 这篇 ...
各种对抗神经网络（GAN）大合集
zhanggf的博客
05-14 7910
I organized this reposity mainly for learning GANs, so all codes about classical GANs were implemented with simple network structure and tested by MNIST dataset. Just know about how mathmatical ana
CVPR2021目标检测 | 通过可微分神经渲染数据增强（附github源码及论文下载）
gzq0723的博客
03-15 2173
欢迎关注“计算机视觉研究院”计算机视觉研究院专栏作者：Edison_G在带标签的数据稀缺时，训练一个鲁棒的目标检测器是很具有挑战性的。现有的解决这一问题的方法包括从未标记数据中插值标记数据...
深度学习中的Data Augmentation和代码实现
时光杂货店
10-21 4386
深度学习中的Data Augmentation和代码实现本篇博客全部都参考自这里1 原理深度学习中，为了避免出现过拟合（Overfitting），通常我们需要输入充足的数据量．为了得到更加充足的数据，我们通常需要对原有的图像数据进行几何变换，改变图像像素的位置并保证特征不变。当然，数据增强并不总是有效的，数据增强对于有些情况下训练并没有帮助；所以，最好的方法还是多找一些数据。可以通过图像的几何变换,
Differentiable Augmentation for Data-Efficient GAN Training
weixin_37958272的博客
08-18 2279
Differentiable Augmentation for Data-Efficient GAN Training 在训练数据量有限的情况下，生成式对抗网络（GANs）的性能会严重恶化。这主要是因为判别器正在记忆准确的训练集。为了解决这个问题，我们提出了可微分增强（DiffAugment），这是一个简单的方法，通过对真实和虚假样本施加各种类型的可微分增强来提高GANs的数据效率。以前直接augment训练数据的尝试操纵真实图像的分布，收效甚微;DiffAugment使我们对生成的样本采用可微增广，有效地
Graph Contrastive Learning with Adaptive Augmentation
欢迎订阅 -- 小源笔迹
07-09 974
对比学习在无监督图表示学习中取得了很好的效果，大部分图对比学习首先对输入图做随机增强生成两个视图然后最大化两个视图表示的一致性。其中，图上的增强方式是非常重要的部分鲜有人探索。我们认为数据增强模式应该保留图固有的属性和结构，可以使模型学到对于不重要的结点和边扰动不敏感的表示信息。但目前的方法大多采用均质的增强方法如均匀的去边，或扰动特征，只能达到次优效果。本文借助先验信息从拓扑和语义角度引入自适应的增强策略。具体来说，在拓扑角度，采用基于结点的中心性来衡量连接结构的重要性的方式设计增强模式；在特征维度，给不
augmentation for small object detection
03-16
小物体检测的数据增强方法包括： 1. 图像翻转：水平翻转和垂直翻转 2. 随机剪切：在图像中随机选择一个区域 3. 随机调整亮度、对比度、饱和度等 4. 图像旋转：随机旋转一定角度 5. 随机添加噪声：高斯噪声、椒盐噪声...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值