ALI比GAN的优势在哪里?

ALI是将VAE与GAN混合的一个模型,为什么它会比GAN好呢?
摘要由CSDN通过智能技术生成

本文参考:Adversarially Learned Inference,(2017.2)作者:Vincent Dumoulin(MILA, Université de Montréal,)
原文:https://ishmaelbelghazi.github.io/ALI/

生成模型有三种:(1)VAE,(2)GAN,(3)Autoregressive approaches (这个方法我还没有学习过)。这三种方法皆有优缺点:
1、VAE,image samples from VAE-trained models tend to be blurry,即VAE生成的图像较模糊;
2、GAN,GAN-based approaches represent a good compromise: they learn a generative model that produces higher-quality samples than the best VAE techniques without sacrificing sampling speed and also make use of a latent representation in the generation process. However, GANs lack an efficient inference mechanism, which prevents them from reasoning about data at an abstract level.
3、Autoregressive approaches据文中说是生成效果不错,就是计算量太大,处理得太慢。
ALI(Adversarially Learned Inference,对抗性推断学习)模型的目标是将VAE和GAN联系起来,同时具备速度快、质量好,而且能有效推断。
此处的“有效推断”是什么?就是给定x(数据集样本),产生了什么z(隐变量),即得到以下叙述中的概率分布 q(z|x) q ( z | x ) 。GAN是由z产生x,它不管给定x产生什么z,没有从x到z的推断过程。现在ALI采用了VAE的编码器和解码器结构,于是便具有了此项推断功能,同时,它的训练过程与传统VAE不同,采用的是GAN那样的纳什均衡方式的训练方法,因此说:ALI具有VAE的实现架构,又有GAN的训练方法。实现框架提供了推断方法,训练方法提供了高质量的生成过程。具体如图1:
这里写图片描述
图1 ALI模型

  • 图1中左边为Encoder:样本 x x 从经验分布 q(x) q ( x ) 抽样出来,经过Encoder的映射
    Gz(x) G z ( x ) 得到条件分布 q(z|x) q ( z | x ) ,从中抽样出 ẑ z ^ ,由此形成一个联合分布 q(x,ẑ) q ( x , z ^ ) ,有 q(x,ẑ)=q(x)q(ẑ|x) q ( x , z ^ ) = q ( x ) q ( z ^ | x )
  • 图1右边为Decoder:已知一个分布 zp(z) z ∼ p ( z ) ,例如: p(z)=N(0,I) p ( z ) = N ( 0 , I ) 标准正态分布。从该分布中抽样出一个样本 z z ,经过Decoder映射 Gx(z) G x ( z ) 得到一个条件分布 p(x
  • 0
    点赞
  • 4
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值