GAN网络结构
首先将样本图片传入到判别器中进行处理,不断的优化判别器,使所得到的概率为1
其次,将随机语义值传入到生成器中得到一个假的图片样本数据,将假的样本数据输入到判别器中进行处理,不断的优化判别器,使所得到的的概率为0(这个部分主要是训练判别器)
最后,重复上诉步骤,不断的优化生成器,从而达到对抗的效果
当生成器和判别器的优化达到动态的平衡(也就是纳什均衡)所得到的图片就是我们想要图片的最好的效果
过程虽然简单,但是会出现梯度消失的问题,原因如下:
在步骤一种,我们将样本X 传辨别器入到判别器D中会得到逻辑值Logits
其次我们将逻辑值进行Sigmoid函数进行激活操作得到概率值P
最后我们将生产的概率值进行交叉熵的操作最终可以得到我们想要的损失值Loss
当我们在反向传播的时候,会出现以下的问题:(公式推导)
p = s