LightGCN论文笔记
论文地址:http://staff.ustc.edu.cn/~hexn/papers/sigir20-LightGCN.pdf
这是何向南组发表在SIGIR2020上的一篇论文,论文中对比了LightGCN与之前发表的论文NGCF的对比,总体来说就是认为GCN中的特征转化和非线性激活在协同过滤的过程中无作用且会增加模型的训练难度。下面就先来看看LightGCN的基本思路。
LightGCN模型
模型图如下:
模型的总体思路就是:
(1)先将用户和项目节点的领域聚合
(2)使用三层卷积层分别生成每层的嵌入
(3)将节点的原始输入与生成每层新的嵌入做一个加权和
(4)将用户和项目最终的生成节点表示做内积生成预测的分数
LightGCN
现在以论文中的公式描述一下以上思路:
这里的聚合器并没有像GCN中的聚合器一样使用了层变换和非线性激活,而是只用了一个简单的加权运算来用节点的邻域计算下一层的节点表示。这里也是对每层的节点做了一个正则化,以避免嵌入规模越来越大。特别需要注意的是,邻域聚合并没有用到自连接,根据作者的解释在最终将每层嵌入组合到一起时,起到了自连接的效果,所以在聚合时是不要增加自连接的。