![2de16f91192825dec016360a50ba78f6.png](https://i-blog.csdnimg.cn/blog_migrate/31c3b6ac9e4950587a21ece67caf76d5.jpeg)
关注微信公众号:人工智能前沿讲习
重磅干货,第一时间送达
尽管 GAN 领域的进步令人印象深刻,但其在应用过程中仍然存在一些困难。本文梳理了 GAN 在应用过程中存在的一些难题,并提出了最新的解决方法。
使用 GAN 的缺陷
众所周知,GAN 是由 Generator 生成网络和 Discriminator 判别网络组成的。
1. Mode collapse(模型崩溃)
注:Mode collapse 是指 GAN 生成的样本单一,其认为满足某一分布的结果为 true,其他为 False,导致以上结果。
自然数据分布是非常复杂,且是多峰值的(multimodal)。也就是说数据分布有很多的峰值(peak)或众数(mode)。每个 mode 都表示相似数据样本的聚集,但与其他 mode 是不同的。
在 mode collapse 过程中,生成网络 G 会生成属于有限集 mode 的样本。当 G 认为可以在单个 mode 上欺骗判别网络 D 时,G 就会生成该 mode 外的样本。
![6ea7bfe3447b6f6b5a2d00bc70cacec4.png](https://i-blog.csdnimg.cn/blog_migrate/0ef87e771f457574df54f1fd42d7fcd4.jpeg)
判别网络最后会判别来自该 mode 的样本是假的。最后,生成网络 G 会简单地锁定到另一个 mode。该循环会无限进行,就会限制生成样本的多样性。
2. Convergence(收敛)
GAN 训练过程中遇到的一个问题是什么时候停止训练?因为判别网络 D 损失降级会改善生成网络 G 的损失(反之亦然),因此无法根据损失函数的值来判断收敛,如下图所示:
![c8718e1b7a6f7db63ddf31f96dc9ab51.png](https://i-blog.csdnimg.cn/blog_migrate/213a504ef0c2dc484f3aa8942e33aa4f.jpeg)
3. Quality(质量)
与前面提