wgan 不理解 损失函数_GAN损失函数||WGAN

1.损失函数

第一项主要是针对真实样本的，第二项是针对生成样本的损失。

//判别器是尽可能地判别出是真实数据还是生成数据，我一直以为是尽可能判别不出呢。。。

2.训练过程

可以看到是先确定G，优化D，确定了优化D之后，再优化G，然后循环进行上面的过程。

3.GAN的缺点

当固定Generator时，最优的Discriminator是

在面对最优Discriminator时，Generator的优化目标就变成了

如果把Discriminator训练到极致，那么整个GAN的训练目标就成了最小化真实数据分布与合成数据分布之间的JS散度。

有关JS散度的目标函数会带来梯度消失的问题。也就是说，如果Discriminator训练得太好，Generator就无法得到足够的梯度继续优化，而如果Discriminator训练得太弱，指示作用不显著，同样不能让Generator进行有效的学习。这样一来，Discriminator的训练火候就非常难把控，这就是GAN训练难的根源。