从VAE到Diffusion生成模型详解(2)：生成对抗网络GAN

已于 2023-09-01 21:36:43 修改
阅读量394 收藏
点赞数
分类专栏： AI算法 文章标签： 生成对抗网络 人工智能 神经网络
于 2023-07-15 15:57:21 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/orangerfun/article/details/131713912
版权
本文详细介绍了生成对抗网络（GAN）的工作原理，包括生成器和判别器的角色，以及它们如何通过min-max游戏进行联合训练。文章还探讨了GAN的数学理论，如目标函数和优化过程，并讨论了GAN的优缺点。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

🤗关注公众号 funNLPer 白嫖畅读全文🤗

文章目录

1. 生成对抗网络的背景

问题: 希望从训练样本分布中采样新数据，但这个分布不仅维度高而且还很复杂，难以直接实现。因此想到一个相对简单的方法：对一个简单的分布采样，比如均匀分布；然后，学习一种映射将其变换到训练样本分布。而这种映射的实现就是通过神经网络

2. 生成对抗网络GAN

GAN由判断别器(G)generator和生成器(D)discriminator组成；其训练目的是希望生成器G能够学习到样本的真实分布 P d a t a ( x

了解本专栏 订阅专栏 解锁全文 超级会员免费看
从VAE到Diffusion生成模型详解(1)：变分自编码器VAE
orangerfun的博客
07-13 1285
什么是生成式模型给定训练集，产生与训练集同分布的新样本。如下图所示，希望学习到一个模型pmodelxpmodel​x，它与训练样本的分布pdataxpdata​x相近从下图可以更形象的解释，假设除了问号以外的都是真实数据，模型学习到的分布为整个椭圆以内的区域，那么从椭圆内采样任意一点（如问号）都可以生成一张对应的图片。注意其他图案对应的是真实数据，但是真实数据有限，因此通过学习一个分布就能通过采样生成无限张图片。
从VAE到Diffusion生成模型详解(3)：普通GAN的改进及变种
orangerfun的博客
07-17 566
生成对抗网络详解
自动编码器、变分自动编码器VAE、生成对抗网络GAN
weixin_43897803的博客
04-28 1276
本文参考链接 自动编码器原理： 由编码器和解码器组成，编码器和解码器通常是神经网络模型。 输入的数据经过神经网络降维到一个编码，再通过一个神经网络去解码得到一个与输入原始数据一模一样的生成数据，然后通过比较这两个数据去最小化它们之间的差异来训练编码器和解码器的参数。 变分自动编码器VAE： 在自动编码器中需要输入一张图片，然后将图片编码之后得到隐含向量，隐含向量解码得到与原始图片对应的照片。 变分...
CSDN ARIMA R语言_R语言绘制生存曲线估计|生存分析|如何R作生存曲线图
weixin_39988779的博客
11-20 380
原文链接：http://tecdat.cn/?p=6087​tecdat.cn根据生存曲线的估计，可以推断出相比组之间存活时间的差异，因此生存曲线非常有用，几乎可以在每个生存分析中看到。例在我们将对象放入ggsurvplot()函数之后，我们可以创建简单的生存曲线估计。让我们来看看患有卵巢癌（卵巢浆液性囊腺癌）和患有乳腺癌（乳腺浸润癌）的患者之间存活时间的差异 。survivalTCGA(BRCA...
自编码器AE、变分自编码器VAE、对抗生成网络GAN、Transformer放一起来看！
小马过河R的博客
04-04 1000
AE是一种强大的无监督学习工具，广泛应用于数据降维、特征提取、去噪和重建等任务。通过编码器和解码器的协作，Autoencoder能够学习到输入数据的低维表示，并在许多领域（如图像处理、自然语言处理）中发挥重要作用。AE主要用于数据的压缩与还原，在生成数据上使用VAE（如上图）；AE是将数据映直接映射为数值code，而VAE是先将数据映射为分布，再从分布中采样得到数值code；VAE的缺点是生成的数据不一定那么“真”，如果要使生成的数据“真”，则要用到GAN。
GAN&VAE&Diffusion
weixin_44796129的博客
11-29 1925
px==qx。
概览：VAE, GAN, Flow Model 和 Diffusion 的关系（一）：VAE 与 GAN
m0_63635128的博客
06-28 1671
以图片生成和处理任务为例，假设我们的研究对象是一个16 * 16 的RGB图片，抛开对图片内容的限制，假如我们完全随机地生成这样一个尺寸的图片，每个像素的可能取值有 256 * 256 * 256 个，整个图片的可能取值情况有$ N = ( 256 \cdot 256 \cdot 256 ) ^ {(16 \cdot 16 )} $个。我们把可能随机生成的这样的一个图片设为（或者说，记为，表示为）一个随机变量 X，X的所有可能取值个数为 N，则我们可以将其样本空间表示为SX​X1​X2​。
通俗形象地分析比较生成模型（GAN/VAE/Flow/Diffusion/AR）
idol24的博客
12-24 3683
作者丨谭旭@知乎编辑丨极市平台来源丨https://zhuanlan.zhihu.com/p/591881660有很多文章已经详细介绍了各类生成模型，比如自回归模型Autoregressive Model (AR)，生成对抗网络Generative Adversarial Network (GAN)，标准化流模型Normalizing Flow (Flow)，变分自编码器Variationa...
AIGC实战——生成对抗网络(Generative Adversarial Network, GAN)
盼小辉丶的博客
12-01 5662
生成对抗网络 (Generative Adversarial Network, GAN) 是由 Ian Goodfellow 等人在 2014 年提出的一种强大的深度学习模型，可以用于生成新数据样本，比如图像、音频、文本等。GAN 包含两个神经网络：生成器和判别器。生成器根据输入的噪声信号生成一些伪造的数据样本，而判别器则负责判断该数据样本是真实的还是伪造的。在本节中，首先阐述生成对抗网络的理论基础，然后使用 Keras 构建生成对抗网络模型。
AIGC技术栈详解：从GAN到Diffusion Models演进
最新发布
AI 领航者的博客
05-14 1104
本文旨在系统性地介绍AIGC(人工智能生成内容)技术栈的发展历程，重点分析从GAN到Diffusion Models的技术演进路径。我们将深入探讨这些技术的理论基础、实现细节和应用场景，帮助读者全面理解现代生成式AI的核心技术。文章首先介绍AIGC的基本概念和技术背景，然后详细分析GAN和Diffusion Models的核心原理和架构。接着通过数学公式和代码示例深入讲解这些技术，最后探讨实际应用和未来发展趋势。AIGC。
你真的看懂扩散模型(diffusion model)了吗？(从DALL·E 2讲起，GAN、VAE、MAE都有)
年少的勇气已经用完，剩下的就是三思而后行
12-03 5461
我们来讲一下什么是扩散模型，如果你不了解一些工作，你可能不清楚它究竟是什么。AI作画（输入一些文字就可以得到与你描述相符的图像）和抖音大火的真图生成漫画风图等都是它的成果。如下图是我利用AI生成的漫画图。文生图以及根据文字/图像对已有图像进行改图，当然这里的工作只是有限的列举，在各个方面扩散模型仍有很多优秀表现。扩散模型是根据文本/图像输入生成原创性的贴近真实的图片输出。值得一提的是，这里原创性。
Diffusion——与VAE、GAN的区别
Irving.Gao的博客
04-07 8110
AE与VAE的区别 AE通过Encoder产生了一个对输出和输出一一对应的embedding，因此它不具有生成能力； 而VAE是通过Encoder将输入投射在一个分布中，我们可以通过控制模型的参数从而控制模型的输出，因此它具有生成能力。 VAE、GAN、Diffusion model的区别 Diffusion
生成式模型实现的区别——VAE、GAN、Diffusion和transformer·
m0_70486148的博客
11-21 1393
生成式模型的表象就是从训练数据的数学分布中学习规律，然后生成新的相似的数据样本。在之前的文章中虽然也介绍过生成式模型，但更多的是从非技术的角度理解什么是生成式模型；而今天我们来学习一下，生成式模型的实现。生产式模型什么是生成式模型？从专业的角度来说，生成模型是一类能学习数据分布并生成新样本的机器学习模型；通过捕捉训练数据的数学关系，创建出与真实数据相似但从未出现过的新示例。生成式模型的原理。
生成式模型对比：扩散模型、GAN 与 VAE
热门推荐
GarryWang1248的博客
12-12 1万+
GAN [1, 2] 学习生成类似于训练数据集的新数据。它由两个神经网络：一个生成器和一个鉴别器组成，实际上是一个 two-player game。生成器采用从正态分布中采样的随机值并生成合成样本，而鉴别器则尝试区分真实样本和生成样本。生成器经过训练可以产生可以欺骗鉴别器的真实输出，而鉴别器经过训练可以正确区分真实数据和生成数据。图 1 的顶行显示了其工作方案。VAE [3, 4] 由编码器和解码器组成。编码器将高维输入数据映射为低维表示，而解码器尝试通过将该表示映射回其原始形式来重建原始高维输入数据。
Diffusion 扩散模型：论生成领先多样性，GAN太单一；论尊贵清晰度独占鳌头，VAE常失真
Debroon
12-11 4979
后来，Diffusion 扩散模型也是生成模型，且在图像生成上，优于 GAN 和 VAE。扩散模型在生成样本时采用了一种不同的方式，它通过在生成过程中逐渐扩散噪声来生成样本。相反，扩散模型只需要在生成过程中进行逐步的扩散操作，使生成的样本逐渐接近真实分布。加噪声和去噪声操作都是正态分布，网络的训练目标应该是让每对正态分布更加接近。扩散模型的训练过程也更加稳定，不需要像GAN那样同时训练生成器和判别器。最直观的想法，肯定是让两个正态分布的均值尽可能接近，方差尽可能接近。
常用的生成模型速览-VAE、Flow-based Model、Diffusion Model、GAN
m0_47005029的博客
04-06 2328
假设我们今天的图像生成任务是拿一段文字生成一张图，一张图所包含的信息是胜过千言万语的，而你输入的文字只不过是其中的一部分，所以说给一个句子生成的图像是有多种可能的。也就是输出是一个分布，在这个分布内的都可以说是正确答案今天的影像生成的模型都有一个共同的套路，并不是直接给一段文字就输出，而是有一个额外的输入，这个额外的输入的是从某一个distribution（简单的你长什么样的distribution）sample出来的一个向量（高维），如果我们把文字用y来描述，影像用x来描述，那么正确答案就可以写成p。
VAE与GAN的比较：优缺点及实践
AI天才研究院
12-23 1243
1.背景介绍 深度学习技术的发展已经进入了一个高度激发的阶段，其中，生成对抗网络（GAN）和变分自动编码器（VAE）是两种非常重要的深度学习技术，它们在图像生成、图像分类、自然语言处理等多个领域取得了显著的成果。在本文中，我们将对这两种技术进行深入的比较和分析，旨在帮助读者更好地理解它们的优缺点以及在实际应用中的具体操作步骤。
VAE生成模型（附VAE实现mnist代码）
qq_34845880的博客
07-13 9797
本文是在基于此博客上的转载，如有讲述不清楚的地方，推荐原博客【学习笔记】生成模型——变分自编码器自编码器是一类在半监督学习和非监督学习中使用的人工神经网络，其功能是通过将输入信息作为学习目标，对输入信息进行表征学习。AutoEncoder 包括 编码器(Encoder) 和 解码器(Decoder) 两部分。Encoder 过程是将原先的（常用于图像方向）压缩为低维向量；Decoder 则是把低维向量还原为原来。因为自编码常用于图像方向，因为一张图每一个像素点都被看作是一个特征，所以随便一张现实中的图都属于
ViT如何支持变长序列（patches）输入？MAE推理过程
Drug discovery
03-17 1586
当增加输入图像的分辨率时，例如DeiT 从 224 到 384，一般来说会保持 patch size（例如9），因此 patch 的数量 N 会发生了变化。那么视觉transformer是如何处理变长序列输入的?
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值