算法总结（十）GAN(生成对抗网络)

学习资料

https://www.cnblogs.com/bonelee/p/9166084.html

https://blog.csdn.net/qq_25737169/article/details/78857724

                                                                                                                        

简单的总结GAN就是拥有一个Generator和一个Discriminator,其中，Generator负责生成图片，而Discrimiantor负责分辨图片真伪

它的主要流程如上图所示，首先初始化一个Generator，然后生成图片，供Discriminator判断，最终确定是否为真，最开始我们固定Dicriminator，然后训练Generator，这就有了第二代Generator，然后固定Generator，训练Discriminator,这就有了第二代Discriminator，依次迭代，到了最后，我们的discriminator无法在准确分辨我们的图像是不是Generator产生的时候，训练就结束了

关于原理部分，我们可以看看这篇博客，https://www.cnblogs.com/bonelee/p/9166084.html 他讲述的很清楚

首先要做的是给generator生成的数据分布做一个假设，然后用极大似然估计去估计分布参数，对于生成之前的分布我们是已知的，经过推导，我们的极大似然估计的目标变为求极小KL散度，其推导结果也显示出，我们的目标是让两个分布的差异尽量小

这里产生了Generator的loss函数

以上显示了generator的过程，我们再看看Dscriminator的loss公式，不同于求MSE，这里使用的是交叉熵

这个公式里面固定了G,我们就只需要关注D,这里我们需要注意一个问题，就是我们的目标是优化D让结果尽可能的大，这怎么使用呢，我们用了梯度上升法，这听起来很怪，但是我们求max的时候，这玩意还挺好使的

具体的训练过程如下