生成对抗网络(GANs)简述:(一)

生成对抗网络(GANs)是人工智能领域最重要的研究途径之一,由于其卓越的数据生成能力受到研究学者的广泛关注。自生成对抗网络提出以来,各界学者关于GANs的改进主要包括三个方面:生成对抗网络的网络模型的改进 、生成对抗网络损失函数的改进以及基于生成对抗网络的实际应用。在本文中首先着重介绍关于常见生成对抗网络的网络模型改进的相关文章及模型汇总。

生成对抗网络的网络模型的改进

生成对抗网络是作者(I. Goodfellow)受游戏理论的启发提出的,其主要包括生成器(generator)和判别器(discriminator)两个部分,在网络训练过程中,生成器和判别器通过相互之间的博弈最终达到一种纳什均衡Nash equilibrium)。
生成对抗网络的基本网络结构如下:
参考文献:【Generative adversarial nets】
生成对抗网络(GANs)基本结构
由于原始的生成对抗网络结构生成的数据随机,且整个网络模型具有很强的不稳定性,训练过程容易出现模式崩溃(model collapse)
基于此,2014年至2017年间针对GANs生成结果随机不受人为控制以及网络输入变量随机易出现模式崩溃这一现状,众多研究学者在现有的GANs网络模型的基础上进行不断的改进。
2014年Mirza and Osindero提出了条件生成对抗网络(CGANs),在原有网络模型的基础上在生成器和判别器的输入端同时添加条件变量zz可以表示标签(labels)、文本信息或其他数据信息),其网络模型如下;
参考文献:【Conditional generative adversarial nets】
cgans
生成对抗网络在提出初期通过多层感知机[the Multi-Layer Perceptron (MLP) ]完成工作,由于卷积神经网络Convolutional Neural Network(CNN)被认为是最有效的有监督学习模型,且是图像处理方面最普遍的网络结构。2016年,Radford et al. 提出深度卷积生成对抗网络模型(DCGAN),其通过将网络层中的全连接层全部变换成卷积层,在图像生成任务中实现了很好的成效。其网络结构如下:
参考文献:【Unsupervised representation learning with deepconvolutional generative adversarial networks】
DCGAN
2016年,通过引入互信息的概念X. Chen, Y. Duan etal. 提出了一种无监督的条件成成对抗网络(InfoGAN),使得网络模型在生成的过程中更加可控,且生成结果可解释。与以往条件生成网络模型不同的是,InfoGAN中的条件潜在变量c未知,需要在网络训练过程中获取。除此之外,相较于原始的判别器InfoGAN的判别器后有一个附加的网络Q用以潜在变量的输出。其具体网络结构如下:
参考文献:【InfoGAN: Interpretable representation learning by information maximizing generative adversarial nets】
InfoGAN
2017年,基于CGANs,Odena et al. 提出一种附加分类器的生成对抗网络模型(ACGAN),模型中判别器的输入不再包括条件变量c的输入,同时另一个分类器被附加在了判别器的后方,通过损失函数(loss function)在训练过程中不断调整提升分类器的准确率。其具体网络结构如下:
参考文献:【Conditional image synthesis with auxiliary classifier GANs】
ACGAN

参考文献

[1]: Recent Progress on Generative Adversarial Networks (GANs): A Survey

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值