该文章发表在CIKM'2021,在何向南老师的LightGCN上做出了进一步的改进。
论文链接:https://arxiv.org/abs/2110.15114
代码链接:https://github.com/xue-pai/ultragcn
文章首先指出了LightGCN的三个不足,如下:
1)消息传递期间在边缘上分配的权重违反直觉,这可能不适用于CF。
2)传播过程递归地将不同类型的关系对(包括用户项对、项项项对和用户用户对)组合到模型中,但未能捕捉到它们不同的重要性。这也可能会引入嘈杂且缺乏信息的关系,从而混淆模型训练。
3)过度平滑问题限制了在LightGCN中使用过多的消息传递层。
然后说明他们的模型不执行显式消息传递,而是通过约束损失直接近似无限层图卷积的极限,从而得到了超简化GCN模型------UltraGCN。并指出所做的贡献:
1)实证分析了LightGCN的培训效率低下,并进一步将其原因归因于消息传递机制的关键限制。
2)我们提出了一种超简化的GCN公式,即UltraGCN,它跳过了无限层的显式消息传递以实现高效的推荐。
3)在四个基准数据集上进行了大量实验,以证明UltraGCN的有效性和效率。
这部分详细说明LCN的不足之处:
在LCN中,各层信息的传递公式表示为:
本文为用户 u 和项目 i 重写了消息传递公式:
其中, 和 分别代表用户 u 和 项目 i 在第 层的嵌入。 和 分别代表用户 u 和 项目 i 的邻接节点。