生成对抗网络（GAN）的原理与公式推导

最新推荐文章于 2024-04-30 23:23:05 发布
最新推荐文章于 2024-04-30 23:23:05 发布
阅读量4.9k 收藏 52
点赞数 9
文章标签： 生成对抗网络 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_45922916/article/details/128163669
版权

文章目录

论文地址

https://arxiv.org/abs/1406.2661

希望路过的学霸们可以看看最后一句话

一、基本概念

生成对抗网络(Generative Adversarial Networks)是一种无监督深度学习模型，用来通过计算机生成数据，由Ian J. Goodfellow等人于2014年提出。模型通过框架中两个模块：生成模型(Generative Model)和判别模型(Discriminative Model)的互相博弈学习产生相当好的输出。生成对抗网络被认为是当前最具前景、最具活跃度的模型之一，目前主要应用于样本数据生成、图像生成、图像修复、图像转换、文本生成等方向。

二、GAN的原理

1、Generator（生成器）

随机输入高斯噪声（注意这个噪声一定要是来自简单的分布，容易采样的，例如normal distribution），生成图片（概率分布 distribution）。
我们将生成的图片的数据分布叫做Pg，真实图片的数据分布叫做Pdata。
在这里插入图片描述
我们的目的：通过Generator生成高质量的图片。也就是说，通过Generator生成的数据分布，与真实图片的数据分布，越接近越好
在这里插入图片描述

2、Discriminator（判别器）

输入图片，给图片打分，输出为一个Scalar（数字）。
如果图片来自真实图片，给高分；来自生成的图片，给低分。
在这里插入图片描述

3、强强联合

在GAN中，我们就是在不断的训练G和D，让G生成的图片的分布尽可能逼近真实图片的分布。
在训练过程中：
D学着去分辨真实的图片和G生成的图片，企图给真实的图片打高分，给G生成的图片打低分。
G学着去骗过D，企图让D分辨不出来图片是来自真实的数据集还是G生成的。达到“以假乱真”的效果。
总结：G其实就是在学会做高仿品。D也在不断变强，增强自己辨真假的能力。这就是“对抗”，毕竟，只有足够强大的对手才能逼出更强大的自己。

小例子：
这个例子来自李宏毅老师的机器学习课程，链接在这（b站）：
李宏毅2021/2022春机器学习课程—生成式对抗网络（GAN）
20分20秒处
在这里插入图片描述

4、算法

在每轮的迭代过程中：
Step1：固定Generator，更新Discriminator；

在这里插入图片描述
Step2：固定Discriminator，更新Generator；

在这里插入图片描述

整个迭代步骤：
在这里插入图片描述

终极目标：通过G生成D难以分辨的图片，D打分为0.5，因为它不知道是真是假。

三、公式推导

刚才说到，我们希望通过G生成的分布与真实图片的分布，越接近越好。
那么，如何衡量两个分布之间的相似程度（或者说差异性）呢？
巧了，在数学中有一些东西，可以做到这件事情，它叫做KL散度（JS散度等等也可以，不止这一种）。

1、KL散度、JS散度

KL散度（KL Divergence）：也称相对熵、KL距离。对于两个概率分布P和Q之间的差异性（也可以简单理解成相似性），二者越相似，KL散度越小。

关于KL散度具体的内容，推导，可以看看b站王木头讲的，个人觉得讲的很清楚了，链接如下（其实我觉得弄懂了好像也没啥用，可能是我太菜了）：
“交叉熵”如何做损失函数？打包理解“信息量”、“比特”、“熵”、“KL散度”、“交叉熵”

这里，只列出KL散度的计算公式（离散随机变量）：
在这里插入图片描述

JS散度（JS Divergence）：JS散度是KL散度的一种变体，与KL散度相似，P和Q越相似，JS散度越小。
在这里插入图片描述
与KL散度相比，JS散度具有对称性，也就是说，P和Q可以交换位置，而KL散度不具有这个特点。

2、求解Generator

其实现在，想必大家也猜到了G的优化公式。那就是，最小化Pg和Pdata的KL散度。
在这里插入图片描述
其实这个divergence就是Generator中的loss function。
Generator也是一个神经网络，我们就是在找出一组权值（weight）和阈值（bias），使得Pg和Pdata之间的KL散度，越小越好。
但是，通过KL散度的公式，我们会发现，要求解KL散度，必须要知道Pg和Pdata的分布，你要事先知道他们俩长什么样，所以，我们很难直接算出Pg和Pdata之间的KL散度。那么，该如何得到KL散度呢？
这就是GAN神奇的地方，它告诉你说，你不需要知道Pg和Pdata的公式长什么样子，就可以计算KL散度，这就要依靠Discriminator的力量。

3、求解Discriminator

GAN提出的对于D的优化是这样的：
在这里插入图片描述

我们希望给来自Pdata的样本高分，给来自Pg的样本低分，所以就是要最大化这个目标方程。
GAN神奇的对方就在于，这个最大化的目标方程，是和JS散度（KL散度也可以）有关的。

接下来就来求解一下最优的D，并求解这个V(G,D)：

在这里插入图片描述

注意：上文说过，这里是固定G，求解D

在这里插入图片描述

D* 就是使得目标方程 V(G,D) 最大的D
我们把 D* 带入到 V(G,D) 中

在这里插入图片描述
在这里插入图片描述

可以看到，求解得到的 max V(G,D) 与JS散度有关，那么，求解 max V(G,D) ，其实就是在求Pg和Pdata的JS散度，G的优化函数就可以写成如下形式：

在这里插入图片描述
也就得到了，论文中提到的那个方程：
在这里插入图片描述

4、整个训练的具体步骤

在这里插入图片描述
注：
（1）这里用采样后求均值的方法代替分布的期望
（2）更新G的时候，不能更新太多。我们更新G的时候，是固定了D，那么如果G更新过多的话， V(G,D) 可能会发生很大变化，以至于当前的D可能已经不是使 V(G,D) 达到最大值的D，那么这时候我们通过梯度下降减小的也就不是JS散度了。所以，这里实际上是假设了，梯度下降的每一步更新后，使得 V(G,D) 达到最大的D是基本没变的。如下图所示：
在这里插入图片描述

四、存在的缺点与问题

（1）没有显示地表达Pg
（2）D必须与G同步训练，且G不能更新太多。最终需要达到纳什平衡，但是有时候是做不到的，所以训练起来有时候是不稳定的，且生成器和图像质量之间缺乏相关性。
（3）模式崩溃问题。就是说G会偷懒，它发现有一种方法可以无限次骗过D，那它就会得寸进尺，每次都用这种方法来骗D，换到我们这个场景里面来说就是，生成的图片比较单一，缺乏多样性。就像下图所示：
在这里插入图片描述
生成的样本全部聚集在左边的峰下，这时虽然生成样本的质量比较高，但是生成器完全没有捕捉到右边的峰的模式。（如果使用多种猫的图像训练GAN，最终GAN只能产生逼真的英短，而无法产生其他品种）。

五、GAN的改进

1、Conditional GAN

论文地址：https://arxiv.org/abs/1411.1784
在原始的GAN基础上加了条件y，分别加到G和D中。
在这里插入图片描述

2、Deep Convolutional GAN

论文地址：https://arxiv.org/abs/1511.06434
将CNN加入到GAN中。

3、DRAGAN(On Convergence and Stability of GANs)

论文地址：https://arxiv.org/abs/1705.07215
用梯度惩罚方案解决了模式崩溃问题。

4、Cycle Gan

论文地址：https://arxiv.org/abs/1703.10593
图像转换。
在这里插入图片描述
还有很多GAN，我也没看几个，就把最原始的GAN仔细的从头到尾看了下，希望这篇可以对大家有所帮助。

接下来准备看Diffusion Model，希望同学们可以多多帮助，分享下学习经验，paper，视频等等，谢谢了！研一菜鸟一枚。

孤独的根号三Plus
关注
  • 9
    点赞
  • 踩
  • 52
    收藏
    觉得还不错? 一键收藏
  • 3
    评论
生成对抗网络GAN正则化方法: 近期研究综述
05-21
尽管生成式对抗网络(GAN)的历史并不长，但它已被广泛地研究和用于各种任务，包括其最初的目的，即合成样品的生成。然而，将GAN用于具有不同神经网络结构的不同数据类型，由于其在训练方面的局限性，使得模型很容易出现混乱。
PyTorch生成对抗网络编程
07-14
PyTorch生成对抗网络编程（畅销书《Python神经网络编程》作者最新力作！用PyTorch构建自己的生成对抗网络） by 塔里克·拉希德
深度学习中对抗生成网络GAN背后的数学原理
金戈鐡馬
11-19 339
那么，GAN究竟是什么呢？可以理解成是非常复杂的分布，不可能用某个数学表达精确表示，因此我们只能通过抽象，使用一个具体的分布模型。此时，D就是可以使用一个神经网络作为二分类器，那么确定D，也就是可以使用梯度下降来优化获得D的最终参数。G和D的训练过程交替进行，这个对抗的过程使得G生成的图像越来越逼真，D“打假”的能力也越来越强。GAN的最大的创新就是在于非常精妙地引入了判别器，从样本的维度解决了衡量两个分布差异的问题。的KL散度尽可能低，也就是使得两者的分布尽可能接近，实现用确定的分布。
一文看懂「生成对抗网络 - GAN」基本原理+10种典型算法+13种应用
热门推荐
风信子的猫Redamancy的快乐星球
04-05 4万+
生成对抗网络 – Generative Adversarial Networks | GAN文章目录GAN的设计初衷生成对抗网络 GAN 的基本原理GAN的优缺点10大典型的GAN算法GAN 的13种实际应用百度百科+维基百科扩展阅读生成对抗网络 – GAN 是最近2年很热门的一种无监督算法，他能生成出非常逼真的照片，图像甚至视频。我们手机里的照片处理软件中就会使用到它。本文将详细介绍生成对抗网络 – GAN 的设计初衷、基本原理、10种典型算法和13种实际应用。 GAN的设计初衷一句话来概括 .
GAN 生成式对抗网络介绍
qq_59143106的博客
03-25 1014
当谈到生成式对抗网络（GANs）时，一个常见的例子是图像生成。让我们以生成手写数字图像为例来详细说明GANs的工作原理。这段代码是一个基本的生成对抗网络（GANs）的实现示例，用于生成手写数字图像。：训练完成后，可以使用生成器生成手写数字图像样本，并通过人工或者其他评价指标来评估生成的图像的质量。：训练好的生成器可以应用于各种任务，例如生成手写数字图像的样本、图像修复等。：生成器和判别器的权重参数需要进行初始化，可以使用随机初始化的方式。这样，整个代码就是一个简单的GANs实现示例，用于生成手写数字图像。
深度学习 —— 生成对抗网络（GAN）—— 一文读懂GAN的原理
qq_19300283的博客
07-12 1570
生成式对抗网络（GAN, Generative Adversarial Networks ）是一种深度学习模型，是近年来复杂分布上无监督学习最具前景的方法之一。模型通过框架中（至少）两个模块：生成模型（Generative Model）和判别模型（Discriminative Model）的互相博弈学习产生相当好的输出。原始 GAN 理论中，并不要求 G 和 D 都是神经网络，只需要是能拟合相应生成和判别的函数即可。但实用中一般均使用深度神经网络作为 G 和 D 。一个优秀的GAN应用需要有良好的训练方法，
【对抗网络】Gan的基本公式详解
sbb8177919的博客
11-05 409
本文将对Gan的基本公式进行一个详细的解释，此后的多种对抗网络的形式都是基于本文的基本公式进行一定的演变而来，所以清楚地了解Gan的基本公式，对以后的Gan网络学习，意义深远而重大。
生成对抗网络(Generative Adversial Network,GAN)原理简介
weixin_60737527的博客
10-23 1万+
生成对抗网络(GAN)的基本原理
GAN的原理
芒果干的博客
10-04 4586
文章目录一、GAN基本介绍二、数学分析1. 生成器G2. 判别器D(1) 求D-max(2) 求G-min三、训练过程 一、GAN基本介绍 GAN是一个生成网络，他有两个网络G和D Generator：生成图片的网络，他可以接受一个随机噪声，这里我们一般把噪声设为标准高斯分布（当然也可以是其他的噪声分布），z～N(0,  1)z～N(0, ~~1)z～N(0,  1)，让zzz通过生成网络得到G(z)G(z)G(z)，G(z)G(z)G(z)其实就是一幅图片 Dis
生成对抗网络(Generative Adversarial Networks)
weixin_36670529的博客
05-31 1万+
目录 一、生成对抗网络原理 1、模型的起源 2、模型的结构和损失函数 二、对GAN的改进 1、零和博弈 2、非饱和博弈 3、最大似然博弈 三、GAN的训练 四、GAN面临的问题 1、很难达到纳什均衡点 2、无法有效监控收敛状态 3、模型崩溃 4、不适合离散输出 五、GAN的应用 1、图像生成 2、由文本生成图片 3、超分辨Super-Resolution 一、生...
GAN生成对抗式神经网络数学推导
weixinhum
12-24 3294
由上面一篇文章我们已经知道了，如果我们从真实数据分布里面取n个样本，根据给定样本我们可以列出其出现概率的表达式，那么生成这N个样本数据的似然(likelihood)就是 l(θ)=∏i=1Np(xi∣θ) l ( \theta )= \prod _ { i = 1 } ^ { N } p \left( x _ { i } | \theta \right) l(θ)=i=1∏N​p(xi​∣θ) 我...
【计算机视觉|生成对抗】条件生成对抗网络（CGAN）
远
08-11 1378
生成对抗网络（Generative Adversarial Nets）[8] 最近被引入为训练生成模型的一种新颖方法。在这项工作中，我们介绍了生成对抗网络的条件版本，通过简单地将我们希望依赖的数据yyy同时提供给生成器和判别器，就可以构建它。我们展示了这个模型可以生成依据类标签条件化的MNIST数字。我们还说明了如何使用这个模型学习一个多模态模型（multi-modal model），并提供了一个初步的图像标记应用示例，在其中我们展示了如何使用这种方法生成并不是训练标签部分的描述性标签。
生成对抗网络（GAN）实例 代码+数据集
04-18
生成对抗网络（GAN）实例 代码+数据集 很实用的代码，并且简单易学，对深度学习感兴趣的可以看看 数据集有手写图片的识别，也可以替换成自己的数据集
GAN生成对抗网络入门与实战视频课程
12-03
课程分享——GAN生成对抗网络入门与实战视频课程，本课程深入讲解近年来复杂分布上无监督学习方法——生成对抗网络（GAN）的原理与应用实例。 课程深入浅出，从深度学习（tensorflow）基础讲起，既有原理的介绍，又...
生成对抗网络GAN（ Generative Adversarial Networks）63PPT，GAN原理，介绍，变体详细
11-22
2.GAN原理 3.最原始GAN 4.GAN变体 5.整整63页的ppt，下载就是赚到 到2014为止，最广泛使用和最成功的机器学习形式是监督学习。通过给定包含{输入X，输出Y}的训练数据集，监督学习算法学习从输入到输出的映射关系，...
GAN（生成对抗网络）
04-11
GAN（生成对抗网络）+pdf+网络结构+损失函数+公式推导 GAN的基础学习
【深度学习】YOLOv5，金属表面的缺陷检测，GC10-DET数据集
q742971636的博客
04-26 400
数据集的lable文件夹下是每个图片的框和类别标记，是xml格式。
Sarcasm detection论文解析 |用于微博讽刺检测的上下文增强卷积神经网络
最新发布
人工智能学习生
04-30 800
在卷积神经网络的基础上，我们为这项任务提出了两种不同的语境增强神经网络模型。与之前的研究相比，我们的神经网络模型将推文内容本身的特征和上下文特征以单词向量的形式整合到了一个模型中。实验结果表明，与最先进的离散模型和基于上下文的模型相比，我们提出的上下文增强神经网络模型具有更好的性能，证明了上下文增强神经网络模型在这项任务中的有效性。
深度学习之基于Matlab NN的伦敦房价预测
Q1744828575的博客
04-30 440
一、项目背景房价预测是房地产领域的一个重要问题，对于投资者、开发商以及政策制定者等都具有重要的指导意义。随着深度学习技术的不断发展，其在房价预测领域的应用也越来越广泛。本项目旨在利用Matlab神经网络（NN）工具箱，构建一个基于深度学习的伦敦房价预测模型，以实现对伦敦地区房价的准确预测。二、项目目标数据收集与预处理：收集伦敦地区的房价数据，包括房屋类型、面积、地理位置、周边环境等信息，并进行数据清洗、去噪、标准化等预处理操作，以提高数据质量。
卷积GAN算法基本原理
11-04
卷积GAN（Generative Adversarial Networks）是一种生成对抗网络，其基本原理是通过两个神经网络相互博弈的方式进行学习，一个网络生成伪造数据，另一个网络则判断真假。具体来说，GAN包含两个神经网络：生成器（Generator）和判别器（Discriminator）。生成器通过学习真实数据的分布，生成与之相似的伪造数据，而判别器则通过学习区分真实数据和伪造数据，从而提高自己的准确率。两个网络相互博弈，最终生成器可以生成足以欺骗判别器的伪造数据，而判别器也可以准确地区分真实数据和伪造数据。 卷积GAN的基本原理与普通GAN相似，只是在生成器和判别器中加入了卷积层，用于处理图像数据。卷积层可以有效地提取图像的特征，从而提高生成器和判别器的性能。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值