一、GAN
-
生成对抗网络一般分为两部分:生成器和分类器
生成器的功能是输入一个样本将其输出成一个逼真的样子,判别器来判断输入的样本是真的还是伪造的。
分类器通过模型判别假数据,互相对抗提升模型能力。例如输入的是真样本,网络输出就接近1,输出的是假样本,网络输出接近0。 -
生成对抗网络的目标是其模型可生成符合数据集分布,又和原数据集不同的数据,并且生成器生成的数据能够骗过分类器。
-
生成器要最大化损失函数(即生成更符合真实分布的数据),分类器要最小化损失函数(即提升判别假数据的能力)
GAN 的特点及优缺点:
特点: 1) 相比较传统的模型,他存在两个不同的网络,而不是单一的网络,并且训练方式采用的是对抗训练方式
2)GAN中G的梯度更新信息来自判别器D,而不是来自数据样本
优点(摘自ian goodfellow 在Quora的问答)
1)、GAN是一种生成式模型,相比较其他生成模型(玻尔兹曼机和GSNs)只用到了反向传播,而不需要复杂的马尔科夫链 2)、
相比其他所有模型, GAN可以产生更加清晰,真实的样本
3)、GAN采用的是一种无监督的学习方式训练,可以被广泛用在无监督学习和半监督学习领域
二、DCGAN
由于GAN存在训练不稳定,生成过程不可控的缺点。
DCGAN是GAN的改进。
DCGAN将转置卷积神经网络包含在GAN中,以获得更好的图像生成性能。同时为了使整个网络可微,拿掉了CNN 中的池化层,另外将全连接层以全局池化层替代以减轻计算量。
转置卷积神经网络的输出计算方法为:
(原高X卷积大小-(原高-1)X(卷积-步长)-2*填充)X(原宽X卷积大小-(原宽-1)X(卷积-步长)-2X填充)