图神经网络(二十六) Graph Random Neural Networks for Semi-Supervised Learning on Graphs, NeurIPS2020

本文出自清华大学唐杰老师团队。
在本文中，提出了一个简单而有效的框架图随机神经网络(GRAND)来解决图神经网络过拟合、过平滑、抗扰动性差等问题，设计了一种随机传播策略来进行图数据扩充。
受到图像上研究的“一致性正则化”(consistency regularized training)启发，设计半监督学习的图数据增强和一致性正则化策略。具体来说，每个节点的特征可以部分(dropout)或全部随机删除，然后在图上传播受扰动的特征矩阵，因此，每个节点都能够对特定的邻域不敏感，增加了GRAND的鲁棒性。随机传播的设计可以自然地将特征传播和特征变换分离开来，而特征传播和特征变换在大多数gnn中是相互耦合的，这从侧面解决了图神经网络的过平滑问题。最后，我们从理论上说明了随机传播和一致性正则化可以增强每个节点与其多跳邻域之间的分类置信度一致性。

GRAPH RANDOM NEURAL NETWORKS

本文模型如图所示。首先设计一种传播策略(a)，随机生成多个图数据增广(b)，在此基础上提出了一种一致性正则化训练©，以提高半监督环境下的泛化能力。

Random Propagation for Graph Data Augmentation