Deep Graph Contrastive Representation Learning

Deep Graph Contrastive Representation Learning

利用节点级别的对比目标

最大化两个视图(属性级和结构级)中节点表示的一致性来学习节点表示

提高输入节点特征和高级节点嵌入之间的MI

主要侧重于对比节点级别的嵌入

正负对进行对比,王亮老师组的关于对比学习论文,还有一篇自适应的GCA,模型结构和这篇差不多

模型

首先从一个图分别用删边和Mask的方法生成,两个视图,对于一个视图内:目标节点与其他节点生成视图内的负样本对,在视图间,目标节点和另一个视图中除了anchor的其他节点成为负例,anchor成为正例

Enconder

用GNN作为Enconder

数据增强方法

删边和Mask

Loss

其中: $\theta (\mathbf{u},\mathbf{v})=s(g(\mathbf{u}),g(\mathbf{v}))$,s是余弦相似度计算,g是非线性的投影层(两层MLP),能够增强表达能力

总的Loss

$\mathcal{J}=\frac{1}{2N}{\sum }_{i=1}^N\left[\ell \left({\mathbf{u}}_i,{\mathbf{v}}_i\right)+\ell \left({\mathbf{v}}_i,{\mathbf{u}}_i\right)\right]$

相当于一张图形成两个视角,跑了两遍,计算了平均Loss,反向传播