GAN在网络表示中的应用--GraphGAN、Adversarial Network Embedding

GAN(Generative Adversarial Networks)在图像、文本数据的表示学习中应用广泛。对抗网络包含两部分，生成器和判别器。生成器的目的是生成与真实数据尽可能相似的数据，去“欺骗”判别器；判别器的目的是尽可能地将真实数据和生成的数据区分开。对抗训练就是生成器和判别器之间的一种“zero-sum”博弈，此消彼长，达到难以区分真实数据和生成器生成数据的效果。

---

GraphGAN

GraphGAN [1]https://arxiv.org/abs/1711.08267是发表在AAAI 2018上的用对抗生成网络学习图表示的文章。在对抗学习过程中，生成器尽可能地拟合节点$v_c$在网络中其他所有节点上地连接分布$p_{true}(v|v_c)$，并且生成最可能和节点$v_c$连接地节点；判别器区分生成节点对(ill-connected)和真实节点对（well-connected），输出为边$(v,v_c)$存在地概率。总的来说，生成器和判别器之间是一个最小最大的 game：

$$\begin{equation} min_{\theta_G} max_{\theta_D} V(G,D) = \sum_{c=1}^{V} (E_{v \thicksim p_{true}(\cdot | v_c)} [log D(v,v_c; \theta_D)]+ E_{v \thicksim G(\cdot | v_c; \theta_G)} [log(1-D(v,v_c; \theta_D))]) \end{equation}$$

Discriminator

判别器要把来自真实数据的正样本，来自生成器的负样本区分开，因而要最大化“贴对标签”的概率。本文采用sigmoid函数作为判别器（当然别的判别模型也是可以作为判别器的）：

$$\begin{equation} D(v,v_c) = \sigma( \mathbf{d}_v^T , \mathbf{d}_{v_c}) = \frac{1}{1+exp(- \mathbf{d}_v^T \cdot \mathbf{d}_{v_c})} \end{equation}$$
其中 $\mathbf{d}_v, \mathbf{d}_{v_c} \in \mathbb{R}^k$是节点在判别器中的k维向量表示。 $\theta_G$是所有 $\mathbf{d}_v$的集合。采用梯度下降，只跟新与节点v, $v_c$相关的参数:

▽θ<