【Day1】对抗神经网络GAN

一、

1、生成模型(G)+判别模型（D）

2、输入的只有真实样本集（无标签）

3、单独交替迭代训练。在训练生成网络的时候，我们需要联合判别网络一起才能达到训练的目的，对于生成网络的训练其实是对生成-判别网络串接的训练。

    a.生成了假样本，把这些假样本的标签都设置为1，也就是认为这些假样本在生成网络训练的时候是真样本（迷惑判别器的目的，也才能使得生成的假样本逐渐逼近为正样本）；

    b.在对于生成网络的训练，我们有了样本集（只有假样本集，没有真样本集），有了对应的label（全为1）。（在训练这个串接的网络的时候，一个很重要的操作就是不要判别网络的参数发生变化，也就是不让它参数发生更新，只是把误差一直传，传到生成网络那块后更新生成网络的参数。这样就完成了生成网络的训练了）

4、在完成生成网络训练后，又有了新的真假样本集（其实是新的假样本集），重复上述过程了。把这个过程称作为单独交替训练；

5、定义一个迭代次数，交替迭代到一定次数后停止即可。

二、

公式代表的是最大最小优化，先拆解优化判别网络D，再优化G。

优化D：

判别网络的优化和生成网络无关。G(z)这里就相当于已经得到的假样本，x相当于真样本。优化D的公式的第一项，使的真样本x输入的时候，得到的结果越大越好；对于假样本，需要优化是的其结果越小越好，也就是D(G(z))越小越好。第二项改成1-D(G(z))，两者合起来就是越大越好。

优化G：

同样在优化G的时候，和真样本无关，所以 第一项直接却掉了，只有假样本。这个时候是希望假样本的标签是1的，所以是D(G(z))越大越好，但是呢为了统一成1-D(G(z))的形式，那么只能是最小化1-D(G(z))。