LightGCN: Simplifying and Powering Graph Convolution Network for Recommendation
Xiangnan He, Kuan Deng, Xiang Wang, Yan Li, Yongdong Zhang, Meng Wang
University of Science and Technology of China, National University of Singapore, Beijing Kuaishou Technology, Hefei University of Technology
http://staff.ustc.edu.cn/~hexn/papers/sigir20-LightGCN.pdf
图卷积网络(GCN)在协同过滤中的应用越来越广泛,并且取得了比较可观的效果。
虽然如此,但是,这种网络在推荐场景中的有效性还没有得到比较好的理解。将图卷积网络用于推荐的现有工作缺乏GCN的各个组件的分析,图卷积网络最初是用于图分类任务的,并且其中包含了很多神经网络算子。
但是,作者们发现,图卷积网络中的最常见的设计,特征变换和非线性激活函数,对协同过滤的效果贡献很小。更糟糕的是,二者会增加训练难度,损害推荐效果。
这篇文章旨在简化GCN,使其在推荐任务中更加精准并且更加合适。为此,作者们提出一种新的协同过滤模型,LightGCN,虽然其中利用了GCN,但是只利用了其中最必要的成分,邻居聚合。
具体而言,LightGCN在用户商品交互图上线性传播来学习用户和商品的embedding,然后将所有层的embedding进行加权,作为最终的embedding。这种简单,线性,小巧的模型比较容易实现,也比较容易训练,在相同实验配置下,该模型相对神经图协同过滤(NGCF),可以明显提升,平均相对提升16.0%。NGCF是目前最好的基于GCN的推荐模型。进一步分析表明了这种简单LightGCN的合理性。
这篇文章的主要贡献如下
下面是NGCF的简介
为提出新模型做铺垫,作者们考虑了以下三个变种
NGCF及其变种的效果如下
针对几个变种,可以得到以下结论
不同变种的训练误差以及测试召回率的曲线对比如下
作者们所提模型结构图示如下
聚合函数主要有以下几种
图卷积的形式如下
LGCN中需要学习的参数并不多
具有多层的情况下,最终表示如下
模型最终预测形式如下
改写成矩阵形式,可以得到以下公式
作者们所提模型跟SGCN的关系为
作者们所提模型跟APPNP的关系如下
作者们所提模型,跟APPNP还有一个区别在于