论文阅读:RGCF: Refined Graph Convolution Collaborative Filering with Concise and Expressive Embedding

在这里插入图片描述
Author:KANG LIU、FENG XUE、RICHANG HONG
论文地址

Motivation:

同lightgcn一样,处理的一样的问题。直接把基于GCN的推荐方法运用到推荐任务的聚合邻居中会引入噪声和信息的冗余。原因是推荐任务大部分输入语义信息很少,仅含ID、attribute等,利用非线性神经网络不合理。

提出了RGCF,原理同lightgcn一样。

去除掉1.NGCF中的非线性神经网络(light中的feature transformation and nonlinear activation);2.把NGCF中的预测模型中的concat直接换成只用最后一层来预测;3.去除掉NGCF中的element-wise product。

在加入节点自连接的时候赋予了一个权重。

同lightgcn区别:lightgcn没有自连接,利用预测模型中每层embedding的权重和来替代自连接的效果。RGCF有自连接,所以只用最后一层来做预测,最后一层的embedding包含前面层的节点信息。

Contribute:

1.分析了基于GCN推荐方法的冗余性缺点,强调了它获取高阶连通性的负面影响。
2.提出RGCF消除了基于GCN推荐方法的组件的冗余。
3.大量实验表明RGCF效果很好。

Method:

在这里插入图片描述

先得到user和item的初始化embedding,然后经过L层线性传播,最后仅利用最后一层的embedding去做预测。

embedding的生成如下图:
在这里插入图片描述

矩阵形式: lambda是对于节点自连接的一个权重。
在这里插入图片描述

预测:仅用最后一层embedding。
在这里插入图片描述
在这里插入图片描述

优化:
在这里插入图片描述

Analyze:

1.为什么网络层是多余的?

分析:利用NN来处理丰富的语义信息,结果是可观的,但是对于一般推荐任务,仅包含user\item ID or attribute,NN对embedding既没有帮助了,可能还会损害精度;NN会带来更多的参数,从而会导致overfitting问题,虽然加入了dropout,这个问题也没有完全消除。

2. 为什么层聚合机制是多余的?

分析:这个主要说的对于预测模型的embeddings处理方式,NGCF是全部层得embeddings做了concat处理,而RGCF仅用了最后一层做预测。分析NGCF用全部的embeddings信息会重叠,而且考虑了很多低阶的交互信息。RGCF利用最后一层embedding预测,最后一层的embedding包含了前面所有层的信息。在NGCF中,concat操作弱化了非线性卷积层消极影响。

如下图:E2包含了E0和E1。
在这里插入图片描述

3.为什么element-wise product是多余的?

分析:首先element-wise product是有用的,它可以放大用户-物品交互对的喜好分数,增加交互节点的吸引力和加速模型的收敛。在NGCF中他弱化了非线性卷积层消极影响。但是当交互函数是inner product时,它可以重构element-wise product的信息。实验证明效果很好。

Dataset:

在这里插入图片描述

Baselines:

MF、SVD++、NeuMF、HOP-Rec、GC-MC、NGCF

1.不同算法比较性能
在这里插入图片描述

2.不同组件比较性能
n-nonlinear network layers
p-product
c-concat
在这里插入图片描述

3.NGCF和RGCF不同层数比较性能
在这里插入图片描述

4.超参数lambda比较性能
在这里插入图片描述

5.超参数L2正则化系数比较性能
在这里插入图片描述

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

aaHua_

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值