之前一直搞不清楚二者的概念,看了这篇文章以后顿悟:
年份:2020
题目:Unifying Graph Convolutional Neural Networks and Label Propagation
作者:Hongwei Wang and Jure Leskovec
地址:http://arxiv.org/abs/2002.06755v1
摘要:标签传播(LPA)和图卷积神经网络(GCN)都是图上的消息传递算法。两者都解决了节点分类的任务,但LPA通过图的边传播节点标签信息,而GCN传播和转换节点特征信息。然而,LPA与GCN在概念上相似,但理论关系尚未深入研究。本文从两个方面研究了LPA和GCN之间的关系:(1)特征/标签平滑,分析一个节点的特征/标签如何在其邻域节点上传播;(2)特征/标签影响,即一个节点的初始特征/标签对另一个节点的最终特征/标签的影响程度。在理论分析的基础上,提出了一种融合了GCN和LPA的端到端节点分类模型。在我们的统一模型中,边权重是可学习的,LPA作为正则化来帮助GCN学习适当的边权值,从而提高分类性能。该模型也可以看作是基于节点标签学习注意力权重,这比现有的基于特征的注意力模型更面向任务。在现实世界的大量实验中,在节点分类精度方面所提模型优于基于gcn的方法。
GCN 和 LPA 的重构关系
作者首先指出两者在概念上的相似:
- LPA 传播标签,最终中心节点的标签是周围节点标签的加权平均(Label Smoothing);
- GCN 传播特征,最终中心节点的特征是周围节点特征的加权平均(Feature Smoothing)。
对这篇文章的详细解析见: