2020-SIGIR- Lightgcn: Simplifying and powering graph convolution network for recommendation

LightGCN

当前RS中的GCN工作没有进行彻底的消融实验,本文实验发现GCN的两项设计**[特征转化]和[非线性激活函数]**不适用于协调过滤。提出了LightGCN,只使用了GCN的邻居聚合,线性传播信息,然后加权每一层的嵌入得到最终的表示。

1 引言

CF的通用范式:①学习到用户和物品的隐含特征(嵌入/表示);②基于嵌入向量进行预测。

  • MF,直接将single id作为嵌入
  • SVD++,将历史交互物品id来表示user(一阶邻居)
  • 交互图,多阶邻居

NGCF中借鉴GCN的特征转化、非线性函数;但是原始GCN使用的节点是带有丰富特征的,而在user-item交互图中,只有id节点,没有丰富的特征,这些特征转化反而会有损模型。所以提出LightGCN.

2 先验

2.1 NGCF

在这里插入图片描述

2.2 NGCF 经验性探究

对NGCF采取消融实验,探究非线性激活函数和特征转化的影响。将NGCF的最后组合方式改变,由concat改为sum,因为这样嵌入都是相同维度了。

  • NGCF-f,移去W1 W2
  • NGCF-n,移去激活函数
  • NGCF-fn,都移去

在这里插入图片描述

3 模型

在这里插入图片描述

3.1 LightGCN

在这里插入图片描述

3.1.1 Light Graph Convolution

在这里插入图片描述

3.1.2 Layer Combination and Model Prediction

在这里插入图片描述

3.1.3 矩阵形式

在这里插入图片描述

3.2 模型分析
3.2.1 和SGCN关系

在这里插入图片描述

3.2.2 和APPNP关系

在这里插入图片描述

3.2.3 二阶嵌入平滑

在这里插入图片描述

3.3 模型训练

在这里插入图片描述

4 实验

4.4 消融实验
4.4.1 层组合方式

在这里插入图片描述

4.4.2 对称根号归一化

在这里插入图片描述

4.4.3 平滑嵌入的分析

在这里插入图片描述
结果表明,使用 light gcn,能让嵌入表更加平滑,更适合用于推荐。

6 结论和未来工作

LightGCN的优点:更容易训练、更好的泛化能力、更有效

近期趋势是利用辅助信息,而GCN在这些side info中建立了新的SOTA。

未来方向,个性化图层组合权重,对于不同用户,不同层结合权重不同,比如稀疏的用户可能需要来自高阶邻居的更多信号,而主动的用户需要的信号更少。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值