GAN
文章平均质量分 85
GAN
Rocky Ding*
全网同名Rocky Ding,AIGCmagic社区知识星球创始人,自媒体WeThinkIn主理人,AI行业经验与思考分享,社招/校招/实习面试咨询。
展开
-
深度学习_GAN_ESRGAN论文详解
ESRGAN(Enhanced Super-Resolution Generative Adversarial Networks)主要是对SRGAN进行改进,发表于2018年,可以说是超分辨率领域很强的一个模型。主要改进点引入了Residual-in-Residu Dense Block(RRDB)结构。改进了网络结构和损失函数。使用激活前的VGG特征来改善感知损失。RRDB结构详解这个结构主要是针对RB结构中的BN层进行改进,由于作者任务SRGAN中产生伪影的原因是因为使用了BN层,所以原创 2020-05-17 17:17:57 · 1886 阅读 · 0 评论 -
深度学习_GAN_Spectral Normalization详解
Spectral Normalization实际上在做的事,是将每层的参数矩阵除以自身的最大奇异值,本质上是一个逐层SVD的过程,但是真的去做SVD就太耗时了,所以采用幂迭代的方法求解。def spectral_norm(w, iteration=10, name="sn"): ''' Ref: https://github.com/taki0112/Spectral_Normalizati...原创 2020-03-24 16:05:09 · 1918 阅读 · 0 评论 -
深度学习_GAN_GAN优化训练方法汇总(全网最全,持续更新)
GAN优化训练方法大汇总,全网最全,持续更新最新的优化方法。原创 2020-03-11 20:24:33 · 5602 阅读 · 6 评论 -
深度学习_GAN_使用PyTorch对DCGAN进行搭建实例
GAN基础概念对抗生成网络(GAN)是一个教深度模型获取训练数据分布的一种框架,因此我们能够使用类似的分布来生成新的数据。首先我们进行一些符号定义。xxx表示图像数据。D(x)D(x)D(x)表示判别网络,它的输出表示数据xxx来自于训练数据而不是生成器的概率。这里输入D(x)D(x)D(x)是CHW大小为3×64×643\times64\times643×64×64的图像。直观地说,当xxx...转载 2020-03-04 16:24:59 · 1207 阅读 · 3 评论 -
深度学习_GAN_CycleGAN
非匹配数据的图像转换Pix2Pix可以很好地处理匹配数据集的图像转换,但是在很多情况下匹配数据集是没有的或者说非常难收集到。在实际生活中,我们却可以很容易的拿到两个领域的大量非匹配数据。下图展示了匹配数据和非匹配数据的区别:CycleGAN就是解决非匹配数据集的图像转换的一种非常好用的网络。对于照片风格的转换,传统CNN网络是通过将某个画作中的风格叠加到原始图片上,如下图所示:上面的方...原创 2020-02-26 21:24:44 · 829 阅读 · 0 评论 -
深度学习_GAN_Pix2Pix
匹配数据的图像转换Pix2Pix在图像到图像的转换这个领域中有很好的应用,它能够面向所有匹配图像数据集的训练和生成。匹配数据集是指在训练集中两个互相转换的领域之间有很明确的一一对应数据。比如下面的三个例子:在工程实践中研究者需要自己收集这些匹配数据,但有时同时采集两个不同领域的匹配数据是非常麻烦的,通常采用的方案是从更完整的数据中还原简单数据。有了匹配数据集的存在,深度学习领域的研究...原创 2020-02-19 11:45:43 · 1001 阅读 · 0 评论 -
深度学习_GAN_SRGAN论文详解及优化
一.超分辨率的定义超分辨率技术(Super-Resolution)是指从观测到的低分辨率图像重建出相应的高分辨率图像,在监控设备、卫星图像和医学影像等领域都有重要的应用价值。SR可以分为两类:从多张低分辨率图像重建出高分辨率图像。从单张低分辨率图像重建出高分辨率图像。深度学习中主要是基于单张低分辨率的重建方法(Single Image Super-Resolution,SISR)。...原创 2020-02-18 13:41:25 · 4264 阅读 · 0 评论 -
深度学习_GAN_GAN的应用
GAN作为一种强有力的生成模型,其应用十分广泛。一.图像翻译所谓图像翻译,指从一幅图像到另一幅图像的转换。可以类比机器翻译,一种语言转换为另一种语言。常见的图像翻译任务有:图像去噪图像超分辨率:训练一个端到端的网络,输入是原始图片,输出是超分辨率后的图片。图像补全:训练一个端到端的网络,输入是原始图片,输出是补全后的图片。风格迁移等等二.文本生成三.数据增广GAN的良好生成...原创 2020-01-12 00:23:11 · 881 阅读 · 0 评论 -
深度学习_GAN_LSGAN
LSGAN(Least Squares GAN)这篇文章主要针对标准GAN的稳定性和图片生成质量不高做了一个改进。作者将原始GAN的交叉熵损失采用最小二乘损失替代。LSGAN的Loss:minDJ(D)=minD[12Ex∼pdata(x)[D(x)−a]2+12Ez∼pz(z)[D(G(z))−b]2]\mathop{\min }\limits_DJ(D)=\mathop{\min}\li...原创 2019-12-23 09:51:33 · 545 阅读 · 0 评论 -
深度学习_GAN_WGAN与WGAN-GP
一.原始GAN存在的训练崩溃问题所谓GAN的训练崩溃,指的是训练过程中,生成器和判别器存在一方压倒另一方的情况。GAN原始判别器的Loss在判别器达到最优的时候,等价于最小化生成分布与真实分布之间的JS散度,由于随机生成分布很难与真实分布有不可忽略的重叠以及JS散度突变特性,使得生成器面临梯度消失的问题;可是如果不把判别器训练到最优,那么生成器优化的目标也就失去了意义。因此需要我们小心的平衡二...原创 2019-12-10 16:15:05 · 3125 阅读 · 0 评论 -
深度学习_GAN_DCGAN论文详解
原始GAN的思想非常伟大,但是我们在实际运用中很少会直接使用最基础的版本,比如在视觉问题中,如果使用原始的基于DNN的GAN,则会出现许多问题。如果输入GAN的随机噪声为100维的随机噪声,输出图像为256 * 256大小的话,也就是说,要将100维的信息映射为65536维。如果单纯用DNN来实现,那么整个模型参数会非常巨大,而且学习难度很大(低维度映射到高维度需要添加许多信息)。因此,原始G...原创 2019-12-09 10:28:58 · 4097 阅读 · 0 评论 -
深度学习_GAN_CGAN学习笔记
条件生成对抗网络(CGAN, Conditional Generative Adversarial Networks)作为一个GAN的改进,其一定程度上解决了GAN生成结果的不确定性。如果在MNIST数据集上训练原始GAN,GAN生成的图像是完全不确定的,具体生成的是数字1,还是2,还是几,根本不可控。为了让生成的数字可控,我们可以把数据集做一个切分,把数字0-9的数据集分别拆分开训练9个模型,...原创 2019-12-08 20:06:00 · 476 阅读 · 0 评论 -
深度学习_GAN_mode collapsing
一.mode collapsing的定义某个模式(mode)出现了大量的重复样本,例如下图所示:上图左侧的蓝色五角星表示真实样本空间,黄色是生成的。生成的样本缺乏多样性,存在大量重复。比如上图右侧中,红框里面人物反复出现。二.如何解决mode collapsing第一种方法:针对目标函数的改进方法为了避免前面提到的由于优化maxmin导致mode跳来跳去的问题,UnrolledGAN采...原创 2019-12-08 16:44:12 · 1015 阅读 · 1 评论 -
深度学习_GAN_生成模型和判别模型的区别
对于机器学习模型,我们可以根据模型对数据的建模方式将模型分为两大类,生成式模型和判别式模型。如果我们要训练一个关于猫狗分类的模型,对于判别式模型,只需要学习二者差异即可。比如说猫的体型会比狗小一点。而生成式则不一样,需要学习猫长什么样,狗长什么样。有了两者的长相以后,再根据长相去区分。具体而言:生成式模型:由数据学习联合概率分布P(X,Y),然后由P(Y/X) = P(X,Y)/P(X)求出概...原创 2019-12-08 11:02:40 · 1738 阅读 · 0 评论 -
深度学习_GAN_初始GAN原理及相关知识详解
生成对抗网络(GAN,Generative adversarial network)自从2014年被Ian Goodfellow提出以来,掀起了一股研究热潮。所以GAN的相关原理知识对我们的学习,研究和工作非常有价值。以下,enjoy:一.GAN基本概念GAN的主要思想:GAN由生成器和判别器组成,生成器负责生成样本,判别器父子判断生成器生成的样本是否为真。生成器要尽可能迷惑判别器,而判别器...原创 2019-11-27 14:11:50 · 1120 阅读 · 0 评论 -
深度学习_GAN学习(广度知识)_GAN各分支网络的学习总结及介绍(持续更新)
生成对抗网络是目前深度学习领域中发展最快的一个分支之一,它可以用于图像编辑和着色、风格转换、物体变形、照片增强等多个领域。二.根据特定条件或者特性来生成或者编辑图像的技术1.CGAN(Condition GAN)主要用于图像生成Conditional Generative Adversarial Nets在条件GAN中,生成器并不是从一个未知的噪声分布开始学习,而是通过一个特定的条件或者某...原创 2019-11-18 17:02:00 · 3384 阅读 · 0 评论