(TKDE 2023)GDSRec: Graph-Based Decentralized Collaborative Filtering for Social Recommendation

GDSRec: Graph-Based Decentralized Collaborative Filtering for Social Recommendation

（TKDE 2023）

采用数据集：

源码：https://github.com/MEICRS/GDSRec

一、提出问题

​ 现有的基于图的推荐算法没有考虑到用户或者物品的评分偏好，比如说，一个挑剔的用户给一个物品较低的评分并仅仅是因为这个用户不喜欢这个物品，而是因为这个用户喜欢给物品打低分。而且，用户之间的社交关系应该随着用户相似度的不同而有着不同的强弱属性，因此更相似的用户在图卷积中的相互影响更大。

二、解决方案

​ 首先根据静态的数据信息计算出每个用户对每个物品的偏置评分，然后赋予这个偏置评分一个embedding向量，将其与用户或者物品embedding融合后再进行训练。对于用户之间的社交连接，给了一个简单但是有效的评判其强弱的方式，提出了模型GDSRec。

三、具体过程

1. 社交边强弱评定

​ 对于每一条社交边，根据其连接用户评分的相似度来判定该社交边的强弱，公式如下：
T i j = 1 + ∑ v k ∈ { R ( u i ) ∩ R ( u j ) } I ( ∣ r i k − r j k ∣ ≤ δ ) T_{ij}=1+\sum_{v_k\in\{R(u_i)\cap R(u_j)\}}I(|r_{ik}-r_{jk}|\leq \delta) Tij​=1+vk​∈{R(ui​)∩R(uj​)}∑​I(∣rik​−rjk​∣≤δ)
​ 其中，$R_{u_i}$和$R_{u_j}$表示用户$u_i$和$u_j$交互过的物品，$r_{ik}$和$r_{jk}$表示用户对物品$k$的评分，$\delta$为阈值，评分差小于该阈值认定是相似的，后续试验证明当$\delta$取1时效果最好，$I(x)=1$表示当x满足条件，反之为0。

2. 用户model

​ 为了考虑到用户的评分偏好，将评分偏好表示为一个向量，首先计算出用户对物品的评分差异：
$${\overline{r}}_{ij}=\lceil |r_{ij}-E(v_j)|\rceil$$
​ $E(v_j)$表示物品$v_j$的平均评分，采用了一个查找表，一个评分差异对应一个embedding表示为${\mathbf{s}}_{{\overline{r}}_{ij}}$，采用了向上取整是因为采用小数不方便（小数是无尽的），为了得到用户最终的向量，采用了如下公式：
h u i = T a n h ( W ⋅ G I ( { x i l , ∀ v l ∈ R ( u i ) } ) + b ) \mathbf{h}_{u_i}=\mathrm{Tanh}(\mathbf{W}\cdot G_I(\{\mathbf{x}_{il},\forall v_l\in R(u_i)\})+\mathbf{b}) hui​​=Tanh(W⋅GI​({xil​,∀vl​∈R(ui​)})+b)

$${\mathbf{x}}_{il}=L_U([{\mathbf{q}}_{v_l}\oplus {\mathbf{s}}_{{\overline{r}}_{ij}}])$$

​ 其中，${\mathbf{x}}_{il}$表示用户交互过的物品向量与用户的偏置评分向量的融合，$L_U$表示多层感知机，$G_I$表示物品的聚合操作：
G I ( { x i l , ∀ v l ∈ R ( u i ) } ) = ∑ v l ∈ R ( u i ) η i l x i l G_I(\{\mathbf{x}_{il},\forall v_l\in R(u_i)\})=\sum_{v_l\in R(u_i)}\eta_{il}\mathbf{x}_{il} GI​({xil​,∀vl​∈R(ui​)})=vl​∈R(ui​)∑​ηil​xil​
​ ${\eta }_{il}$为注意力网络产生的权重参数。

3. 注意力网络

​ 注意力网络采用一个两层的神经网络：
$${\stackrel{\cdot }{\eta }}_{il}={\mathbf{W}}_2^T\cdot \mathrm{ReLU}({\mathbf{W}}_1\cdot [{\mathbf{x}}_{il}\oplus {\mathbf{p}}_{u_i}]+{\mathbf{b}}_1)+{\mathbf{b}}_2$$
​ 归一化：
$${\eta }_{il}=\frac{exp({\stackrel{\cdot }{\eta }}_{il})}{{\sum }_{v_l\in R(u_i)}exp({\stackrel{\cdot }{\eta }}_{il})}$$

4. 物品model

​ 对于物品$v_j$的表示，根据每个对该物品交互过的用户，对应的也有一个评分偏置：
$${\overline{r}}_{ij}=\lceil |r_{ij}-E(u_i)|\rceil$$
​ 然后将该评分偏置对应的embedding与对应的用户embedding通过一个多层感知机结合：
$${\mathbf{y}}_{jk}=L_I([{\mathbf{p}}_{u_k}\oplus {\mathbf{s}}_{{\overline{r}}_{kj}}])$$
​ 因此最终的物品向量表示为：
h v j = T a n h ( W ⋅ G U ( { y j k , ∀ u k ∈ R ( v j ) } ) + b ) \mathbf{h}_{v_j}=\mathrm{Tanh}(\mathbf{W}\cdot G_U(\{\mathbf{y}_{jk},\forall u_k\in R(v_j)\})+\mathbf{b}) hvj​​=Tanh(W⋅GU​({yjk​,∀uk​∈R(vj​)})+b)

G U ( { y j k , ∀ u k ∈ R ( v j ) } ) = ∑ u k ∈ R ( v j ) ϵ j k y j k G_U(\{\mathbf{y}_{jk},\forall u_k\in R(v_j)\})=\sum_{u_k\in R(v_j)}\epsilon_{jk}\mathbf{y}_{jk} GU​({yjk​,∀uk​∈R(vj​)})=uk​∈R(vj​)∑​ϵjk​yjk​

​ 采用注意力机制：
$${\stackrel{\cdot }{ϵ}}_{jk}={\mathbf{W}}_2^T\cdot \mathrm{ReLU}({\mathbf{W}}_1\cdot [{\mathbf{y}}_{jk}\oplus {\mathbf{q}}_{v_j}]+{\mathbf{b}}_1)+{\mathbf{b}}_2$$

5. 社交model

​ 这个模块与用户model的过程相似，主要作用是帮助用户做后续的评分预测用。

6. 评分预测

​ 预测评分表示为：
$${\hat{r}}_{ij}=\frac{1}{2}[E(u_i)+E(v_j)]+f(u_i,v_j)$$
​ $E(u_i)$和$E(v_j)$表示用户$u_i$和物品$v_j$的平均评分，$f(u_i,v_j)$表示如下。采用了与用户相邻的用户对物品的评分做辅助：
$$f(u_i,v_j)=\frac{1}{2}(r_{ij}^p+\sum _{u_k\in N(u_i)}{\lambda }_{ik}{r}_{kj}^p)$$
​ 其中
$${\lambda }_{ik}=\frac{T_{ik}}{{\sum }_{u_k\in N(u_i)}{T}_{ik}}$$
​ 为了计算用户与物品之间的评分，采用三层神经网络：
$${\mathbf{z}}_1=\mathrm{Tanh}({\mathbf{W}}_1\cdot [{\mathbf{h}}_{u_i}\oplus {\mathbf{h}}_{v_j}]+{\mathbf{b}}_2)$$

$${\mathbf{z}}_2=\mathrm{Tanh}({\mathbf{W}}_2\cdot {\mathbf{z}}_1+{\mathbf{b}}_2)$$

$$r_{ij}^p={\mathbf{w}}^T\cdot {\mathbf{z}}_2$$

四、实验结果

​ 60%指训练集、验证集和测试集比例为6:2:2，80%指训练集、验证集和测试集比例为8:1:1。