GANs学习笔记
bupt_gwy
专注于计算机视觉研究
展开
-
【GANs学习笔记】(四)GANs的缺陷
Part1 GANs基于Divergence的改进 1. GANs并不完美1.1 JS divergence距离偏差问题       我们现在来认真反思,前一篇所介绍的GANs理论,它真的能够学习到,或者说它真的能够无限逼近真实数据分布吗?回想一下,在前面的介绍中,我们提到discriminator,它的最大化的过程实际上就是上就是...原创 2018-10-30 23:27:50 · 1563 阅读 · 3 评论 -
【GANs学习笔记】(五)fGAN——深度理解GAN理论
2. fGAN――深度理解GAN理论    fGAN其实想要表达的就是一件事,不只是JS divergence,任何的divergence(统称为f-Divergence)都可以被放到GANs的架构中去。我们先来看一下fGAN的证明(如果不感兴趣可以直接跳到△处)。    设定P和Q是两个不同的原创 2018-10-30 23:29:38 · 6723 阅读 · 1 评论 -
【GANs学习笔记】(六)JS Divergence不是最好的Divergence
3. JS divergence不是最佳的divergence       在第三篇当中我们介绍了fGAN告诉我们的结论:不只是JS divergence,任何的divergence(统称为f-Divergence)都可以被放到GANs的架构中去。   &原创 2018-10-30 23:31:17 · 11900 阅读 · 1 评论 -
【GANs学习笔记】(七)LSGAN
4. LSGAN       在上一节当中提到,JS divergence出现问题的原因是:只要与完全没有重合,discriminator就能100%地鉴别出与的差异,因此二者的JS divergence就是一样的。那现在的一个解决思路就是,让discriminator始终都不能100%地鉴别出与的差异,这样即便与完全没有重合,二者的J...原创 2018-10-30 23:33:51 · 1184 阅读 · 1 评论 -
【GANs学习笔记】(八)WGAN
5. WGANWGAN的全称是WassersteinGAN,它提出了用Wasserstein距离(也称EM距离)去取代JS距离,这样能更好的衡量两个分布之间的divergence。我们先介绍一下什么是EM距离。5.1 EM距离EM距离的全称是EarthMover(推土距离),它的定义非常直观:假设有两堆数据分布P和Q,看作两堆土,现在把P这堆土推成Q这堆土所需要的最少的距离就是EM距离。...原创 2018-10-30 23:34:57 · 1659 阅读 · 0 评论 -
【GANs学习笔记】(九)WGAN-GP
6. WGAN-GP6.1 WGAN-GP原理       WGAN待解决的问题是,未能将D真的限制在1-Lipschitz function内。我们不妨观察一下1-Lipschitz function,会发现它其实等价于如下表达式: &am原创 2018-10-31 09:17:35 · 2474 阅读 · 0 评论 -
【GANs学习笔记】(十)SNGAN
7. SNGAN7.1 SNGAN设计思路       现在我们的目的,是要保证对于每一个位置的x,梯度的模都小于等于1。在神经网络中,将梯度的模限制在一个范围内,抽象地来说就是让产生的函数更平滑一些,最常见的做法便是正则化。SNGAN(频谱归一化GA原创 2018-10-31 09:17:51 · 8137 阅读 · 2 评论 -
【GANs学习笔记】(十一)DCGAN、ImprovedDCGAN
Part2 GANs基于Network的改进        在这一部分我们开始探讨generator与discriminator内部网络的结构,之前我们一直在探讨二者在外部的连接方式和如何使用divergence能让结果更好,而涉及到generator与d原创 2018-10-31 09:17:59 · 3020 阅读 · 1 评论 -
【GANs学习笔记】(十二)SAGAN
3. SAGAN3.1 SAGAN解决的问题       前篇我们说到用深度卷积网络能够提升GANs生成高分辨率图片的细节,但是由于卷积网络的局部感受野的限制,如果要生成大范围相关(Long-range dependency)的区域,卷积网络就会出现问题。譬如说在生成人脸图片时,是非常注重细节的,以原创 2018-10-31 09:18:04 · 10308 阅读 · 1 评论 -
【GANs学习笔记】(十三)BIGGAN
4. BigGAN4.1 BigGAN解决的问题       我们知道,GANs的终极目标是生成让人无法辨别真伪的高清图片,如果用Inception Score来评价的话,我们希望生成图片的IS得分能逼近真实图片的IS值,也就是233分。但即便是之前效原创 2018-10-31 09:22:01 · 6483 阅读 · 2 评论 -
【GANs学习笔记】(一)初步了解GANs
第一章 初步了解GANs1. 生成模型与判别模型      理解对抗网络,首先要了解生成模型和判别模型。判别模型比较好理解,就像分类一样,有一个判别界限,通过这个判别界限去区分样本。从概率角度分析就是获得样本x属于类别y的概率,是一个条件概率P(y|x原创 2018-10-30 23:19:56 · 13138 阅读 · 3 评论 -
【GANs学习笔记】(二)GANs大家族分类
4. GANs大家族分类      随着GANs的火热,相关的衍伸模型出现了至少有上百种,在下面这个博客 https://deephunt.in/the-gan-zoo-79597dc8c347中整理了非常多的GANs变种。本书仅选择与计算机视觉相关的GANs作介绍,简要地介绍其核心思想和算法原理。本书原创 2018-10-30 23:21:32 · 2924 阅读 · 3 评论 -
【GANs学习笔记】(三)GANs理论基础
第二章 GANs的理论与提升       本章会介绍一些与提升和改进GANs相关的paper,这涉及到一些与GANs理论相关的知识,在第一部分会用较简短的话语介绍一些GANs的相关核心理论,第二部分是GANs存在的一些缺陷和改进手段,第三部分会介绍一个很有趣的paper――fGAN,它能帮助我们更深的理解GANs的算法思想,第四部分开始...原创 2018-10-30 23:24:33 · 2218 阅读 · 2 评论 -
【GANs学习笔记】(二十三)EBGAN深度理解
完整笔记:http://www.gwylab.com/note-ebgan.html—————————————————————————————————本章借鉴内容:(1)https://mp.weixin.qq.com/s/E7zlQvDuW8mXSuEITwt38w(2)https://mp.weixin.qq.com/s/uGuywTY33SrYERDO522N1Q—————————...原创 2019-03-04 17:06:24 · 4055 阅读 · 3 评论 -
【GANs学习笔记】(二十四)StyleGAN
完整笔记:http://www.gwylab.com/note-gans.html—————————————————————————————————本章借鉴内容:https://towardsdatascience.com/explained-a-style-based-generator-architecture-for-gans-generating-and-tuning-realisti...原创 2019-03-25 14:52:46 · 39088 阅读 · 26 评论 -
【GANs学习笔记】(二十五)S²GAN,S²GAN-CO,S³GAN(CompareGAN)
完整笔记:http://www.gwylab.com/note-gans.html—————————————————————————————————5. S3GAN5.1 S3GAN解决的问题 上一节我们提到,BigGAN实现了大规模高清图片的生成,但是,BigGAN的训练成本是非常大的,一个显著的缺陷是它需要大量的标注数据才能实现训练(因为判别器做判断的依据就是图像的标注)。因此,制作...原创 2019-03-25 15:09:02 · 1279 阅读 · 0 评论 -
【GANs学习笔记】(十四)RGAN
Part3 GANs的其他改进        GANs还有一些其他的改进,本部分会选择一些很有创意的idea介绍一下。1. RGAN1.1 RGAN解决的问题       在标准生成对原创 2018-10-31 09:31:03 · 7023 阅读 · 2 评论 -
【GANs学习笔记】(十五)EBGAN、BEGAN
2. EBGAN       EBGAN的全称是Energy-Based GAN,它只改动了discriminator,使其不再去鉴别输入图像是来自于还是,而是去鉴别输入图像的重构性高不高。具体来说就是,本来discriminator的目的是学会寻找与之间原创 2018-10-31 09:33:42 · 4132 阅读 · 0 评论 -
【GANs学习笔记】(十六)CGAN、TRIPLEGAN
第三章 GANs的应用Part1 GANs在图像生成上的应用1. CGAN1.1 传统GANs的问题       我们假设现在要做一个项目:输入一段文字,输出一张图片,要让这张图片足够清晰并且符合这段文字的描述。我们搭建一个传统的NeuralN原创 2018-10-31 09:35:28 · 5701 阅读 · 1 评论 -
【GANs学习笔记】(十七)STACKGAN、STACKGAN++
3. StackGAN     3.1 StackGAN解决的问题       St原创 2018-10-31 09:41:34 · 13726 阅读 · 2 评论 -
【GANs学习笔记】(十八)LAPGAN、ProGAN、SRGAN
4. LapGAN      4.1 LapGAN基本思路如果我们希望生成高分辨率图像,还有一种GANs可以考虑,那就是LapGAN。LapGAN与StackGAN有着非常类似的思路,都是通过先产生低分辨率图像再不断生成高分辨率图像,但LapGAN是基于拉普拉斯金字塔实现的,在金字塔的每一层都是学习与相邻层之间的残差,也就是说,高分辨率图像的生...原创 2018-10-31 10:05:09 · 12016 阅读 · 1 评论 -
【GANs学习笔记】(十九)CycleGAN、StarGAN
Part2 GANs在风格迁移上的应用1. CycleGAN     1.1 CycleGAN解决的问题       假设我们现在要训练一个风格迁移的神经网络,原创 2018-11-01 18:21:31 · 5664 阅读 · 11 评论 -
【GANs学习笔记】(二十)CoGAN、ComboGAN、XGAN
3. 如何解决BIG TRANSFORMATION       我们前面提到的风格转换都是比较小幅度的风格转换,有的时候我们会需要做非常大的风格转换,譬如把真人照片转成动漫照片。大风格的转换我们容易想到的一个思路是auto-encoder: &a原创 2018-11-01 18:21:41 · 7623 阅读 · 0 评论 -
【GANs学习笔记】(二十一)InfoGAN
Part3 GANs在特征提取上的应用1. InfoGAN     1.1 InfoGAN解决的问题     &a原创 2018-11-01 18:21:46 · 1022 阅读 · 0 评论 -
【GANs学习笔记】(二十二)VAEGAN、BiGAN
2. VAEGAN     2.1 VAEGAN的原理       我们知道VAE可原创 2018-11-01 18:21:52 · 10709 阅读 · 2 评论 -
【GANs学习笔记】目录
目 录第一章 初步了解GANs 3生成模型与判别模型 3对抗网络思想 3详细实现过程 33.1 前向传播阶段 43.2 反向传播阶段 4GANs大家族分类 6第二章 GANs的理论与提升 7GANs相关理论 7Part1 GANs基于Divergence的改进 12GANs并不完美 12fGAN——深度理解GAN理论 15JS divergence不是最佳的diverg...原创 2018-10-29 20:43:16 · 2330 阅读 · 1 评论