生成对抗网络原理篇（GAN）

本文整理自B站的白板推导系列。这篇主要讲解GAN的原理。下一篇会动手在minist数据集上实现一个GAN。

一个例子

现在有一批国宝，一个造假专家和一个鉴赏专家。造假专家通过观察国宝，然后仿造工艺品，鉴赏专家通过判断一个工艺品是国宝还是造假专家仿造的，对造假专家进行反馈。同时造假专家也会对鉴赏专家进行反馈，提升鉴赏专家的鉴赏能力。

鉴赏专家的目标是通过上面的训练成为高水平的鉴赏专家，造假专家的目标是通过上面的训练成为高水平的造假专家，造出的工艺品能以假乱真。

数学描述

国宝是真实的，用$p_{data}(x)$来描述，假设有$N个国宝$，那么有$x_i\sim p_{data}(x_i),i\in [1,N]$。造假专家制作的工艺品是仿造的，用$p_g(x;{\theta }_g)$来描述，${\theta }_g$是分布的参数。

在GAN中，并没有直接对$p_g(x;{\theta }_g)$建模，而是用一个神经网络去逼近$p_g(x;{\theta }_g)$，而网络的参数就是${\theta }_g$。由于纯粹的神经网络是不具备随机性的，所以假设$x$是由一个随机变量$z$生成的，$z$服从一个简单的分布，比如高斯分布，这样就引入了随机性。假设$z\sim p_z(z)$

上面提到的神经网络就是$G(z;{\theta }_g)$，那么$x=G(z;{\theta }_g)$，上面这个过程其实也就是由一个隐变量生成样本的过程，也就是在建模分布$p_g(x|z)$。VAE中不也是这样吗？只不过在VAE中显示定义了$p_g(x|z)$的形式，一般都是高斯分布，而在GAN中，则用一个神经网络去拟合分布$p_g(x|z)$，并没有假设其具体形式，所以从这个角度来看，是不是GAN比VAE要更好。

令$D(x;{\theta }_d)$是鉴赏专家鉴别造假专家生成的$x$是国宝的概率，$D(x;{\theta }_d)$越大，表示鉴赏专家认为$x$是国宝的概率越高。

也就是：

对于鉴赏专家来说：

• 如果$x$是来自于$p_{data}$，那么$D(x)$应该越高，
• 如果$x$是来自于$p_g$，那么$D(x)$应该越低，也就是$1-D(x)$应该越高。前面已经说到造假专家的$x$是通过$G(z;{\theta }_g)$生成的，那么也就是$1-D(G(z;{\theta }_g))$应该越高。

综上，站在鉴赏专家的角度考虑，就是使下式最大化：
$$E_{x\sim p_{data}}[D(x)]+E_{z\sim p_z}[1-D(G(z;{\theta }_g))]$$

为了计算的方方便，上面一般都取$log$，也就是：
$$E_{x\sim p_{data}}[logD(x)]+E_{z\sim p_z}[log(1-D(G(z;{\theta }_g)))]\text{\hspace{1em}(1)}$$

对于造假专家来说：

• 如果$x$是来自于$p_g$，那么希望鉴赏专家将其鉴别为真，也就是$log(1-D(G(z)))$越小。

站在造假专家的角度考虑就是使得下式最小：
$$E_{x\sim p_z}[log(1-D(G(z;{\theta }_g)))]$$

综合鉴赏专家和造假专家的损失函数，最终GAN的损失是：
$$mi{n}_{G}ma{x}_D[E_{x\sim p_{data}}[logD(x)]+E_{z\sim p_z}[log(1-D(G(z;{\theta }_g)))]]\text{\hspace{1em}(2)}$$

GAN的难点是学习出来$G和D$，也就是学习出${\theta }_g和{\theta }_d$。

GAN的另一大特点是，GAN并没有直接去面对$p_g$，没有假设$p_g$的具体形式，而是用了一个可微的神经网络$G(z;{\theta }_g)$去逼近$p_g$。

全局最优解

令$$V(G,D)=E_{x\sim p_{data}}[logD(x)]+E_{x\sim p_g}[log(1-D(x))]\text{\hspace{1em}(3)}$$

为了推导方便，这里将$z$都换成了$x$。将$G和D$理解为神经网络就行。所以目标就变成了
$$mi{n}_{G}ma{x}_{D}V(G,D)\text{\hspace{1em}(4)}$$

• 固定$G，ma{x}_{D}V(G,D)$。
  $$\begin{array}{rl}ma{x}_{D}V(G,D)=& \int p_{data}(x)logD(x)dx+\int p_g(x)log(1-D(x))dx\\ =& \int p_{data}(x)logD(x)+p_g(x)log(1-D(x))dx\end{array}\text{\hspace{1em}(5)}$$

（5）式对$D$求导得：
$$\begin{array}{rl}\frac{\partial ma{x}_{D}V(G,D)}{\partial D}=& \int \frac{\partial }{\partial D}[p_{data}(x)logD(x)+p_g(x)log(1-D(x))]dx\\ =& \int [p_{data}(x)\frac{1}{D(x)}-p_g(x)\frac{1}{1-D(x)}]dx\end{array}\text{\hspace{1em}(6)}$$
令（6）式等于0，解得：
$$D_G^{\ast }(x)=\frac{p_{data}(x)}{p_{data}(x)+p_g(x)}$$
$p_{data}(x)$虽然形式未知，但是给定数据时是固定不变的。$p_g(x)$是变化的，所以$D_G^{\ast }$是关于生成器$p_g(x)$的函数。

• 将$D_G^{\ast }$带入（4）式
  $$\begin{array}{rl}mi{n}_{G}ma{x}_{D}V(G,D)=& mi{n}_{G}V(G,D^{\ast })\\ =& mi{n}_G{E}_{x\sim p_{data}}[log\frac{p_{data}(x)}{p_{data}(x)+p_g(x)}]+E_{x\sim p_g}[log\frac{p_g(x)}{p_{data}(x)+p_g(x)}]\\ =& mi{n}_G{E}_{x\sim p_{data}}[log\frac{p_{data}(x)\ast \frac{1}{2}}{(p_{data}(x)+p_g(x))/2})]+E_{x\sim p_g}[log\frac{p_g(x)\ast \frac{1}{2}}{(p_{data}(x)+p_g(x))/2}]\\ =& mi{n}_{G}KL(p_{data}(x)||\frac{p_{data}(x)+p_g(x)}{2})+KL(p_g(x)||\frac{p_{data}(x)+p_g(x)}{2})-log4\\ =& mi{n}_{G}JS(p_{data}(x)||p_g(x))-log4\\ \ge & -log4\end{array}\text{\hspace{1em}(7)}$$
  当$p_{data}(x)=\frac{p_{data}(x)+p_g(x)}{2}=p_g(x)$时取等号。

此时，$p_g^{\ast }=p_{data},D_G^{\ast }=0.5$，这就是全局最优解，此时鉴别器对于生成器输出的$x$都输出0.5，说明鉴别器已无法判断$x$是真实数据还是假数据。生成器达到了全局最优。