变分图自编码器

论文地址：Kipf T N, Welling M. Variational graph auto-encoders[J]. NIPS, 2016.

代码地址：tkipf/gae: Implementation of Graph Auto-Encoders in TensorFlow (github.com)

pytorch实现：zfjsail/gae-pytorch: Graph Auto-Encoder in PyTorch (github.com)

 Introduction

         本文介绍了一种基于变分自编码器（VAE）的图结构数据无监督学习框架。这个模型利用了潜在变量并且可以学习无向图的可解释潜在表示形式。

        作者通过使用图卷积网络（GCN）作为编码器和内积作为解码器，实现了这一模型。该模型在链接预测等任务上显示了良好的性能，并且能够自然地包含节点特征，从而在多个基准数据集上显著提高预测性能。

Definition

        给定一个无向无权重图，其中有个节点。引入g的邻接矩阵A，及其度矩阵D。又引入了随机潜在变量，总结为一个N×F的矩阵Z。节点特征汇总在N×D的矩阵X。

Inference model

        作者采用了一个由两层 GCN 参数化的简单推理模型：

        其中是均值向量μi的矩阵；同样的还有。两层GCN定义为，Wi为权重矩阵。和共享第一层参数。且是归一化的邻接矩阵。

Generative model

        作者的生成模型由隐藏变量的内积得到。

        其中是A的元素，是logistic sigmoid function

Learning

        损失函数：

       

        由两部分组成包括对数似然的期望和KL散度，用于度量模型对数据的拟合程度和潜在表示的正则化。

        这个框架将变分自编码器的原理扩展到图结构数据，使其能够捕捉节点间的复杂关系，并学习能够反映这些关系的潜在表示。通过结合GCN和VAE，VGAE能够在无需标签的情况下，有效地学习图数据的低维表示，对于图结构数据分析和图机器学习任务非常有用。