《graph neural networks for social recommendation》论文阅读

发表于www’19。我认为本篇的创新性：1.引入社交网络信息 2.引入attention机制 3.单独处理不同的opinion（可以理解为不同的打分值）。

abstract

在GNNs上建立社交推荐系统面临着挑战：user-item图同时编码了交互信息和它们的相关意见；社交关系具有不同的强度；users同时在两个图之中（user-user社交网络、user-item图）。为了解决同时解决上述三个挑战，我们提出了一个图神经网路框架（GraphRec）。具体来说，我们提供了一个方法来同时捕捉user-item图之中的interactions以及opinions，并且提出了框架GraphRec，同时建模了两个图以及不同的强度。两个数据集上的实验证明了框架的有效性。

1.introduction

基于GNN的推荐系统面临着挑战：1）社交图和user-item图提供了了用户不同方面的信息。因此需要同时从两个图中挖掘出有效信息来表示用户。 2）user-item图不仅有interaction，也包括了用户对物品的偏好（interaction含分值信息）。于是需要同时捕捉这种偏好以及interaction的信息。3）如何识别具有不同强度的连接的社交关系。

2.the proposed framework

2.1 definitions and notations

2.2 an overview of the proposed framework

包含三个部分：用户建模、物品建模以及预测部分。用户建模部分为两种不同的用户图构建了两种聚合过程，一种是item aggregation，从user-item中聚合用户相关的items来理解user，一种则是social aggregation，用于聚合social graph中的用户间的关系信息，然后最终获得用户潜在表征通过同时组合item space和user space的信息。第二个部分是物品建模部分，用于学习物品潜在因子，为了同时考虑user-item graph中的interactions以及opinions，我们引入了user aggregation，用于在物品建模的过程中聚合用户的opinions。第三个部分是通过预测来学习模型参数（通过组合用户和物品的建模成分）。

2.3 user modeling

user modeling的目标是学得用户$u_i$的潜在因子$h_i\in {\mathbb{R}}^d$。挑战是如何组合user-item graph和social graph。
于是使用了两种聚合器来从两个图上学习：item aggregation以及social aggregation。item aggregation用于从user-item图中学习物品空间的用户潜在因子$h_i^I\in {\mathbb{R}}^d$。social aggregation用于从social图中学习社交空间用户潜在因子$h_i^S\in {\mathbb{R}}^d.$以上两种因子被组合起来形成最后的用户潜在因子$h_i$。

item aggregation：
这个时候需要同时捕捉user-item图上的interactions和opinions来形成$h_i^I$。

$h_i^I=\sigma (W\cdot Aggr{e}_{items}(x_{ia},\forall a\in C(i))+b)，$
$C(i)$是用户 $u_i$交互过的物品集合, $x_{ia}$代表opinion-aware interaction representation between $u_i$和物品 $v_a$。

接下来将对opinion-aware interaction representation $x_{ia}$和aggregation function $Aggr{e}_{items}$进行定义。

对于每一个opinions的种类$r$(例：不同的打分值)，我们都引入一个opinion embedding vector $e_r\in {\mathbb{R}}^d$作为一个dense vector representation来表示opinion $r$。对于一个用户$u_i$和物品$v_a$之间具有opinion $r$的interaction，我们建模opinion-aware interaction representation $x_{ia}$为通过MLP的item embedding $q_a$和opinion embedding $e_r$的组合（其实就是concatenation）。MLP的输出就是opinion-aware representation $x_{ia}$:

$x_{ia}=g_v[q_a\oplus e_r]$ ， $g_v$为上述的信息聚合过程。 $\oplus$代表concatenation操作。

一个受欢迎的aggregation function for $Aggr{e}_{items}$是mean函数。

h i I = σ ( W ⋅ { ∑ a ∈ C ( i ) α i x i a } + b ) h_i^I =\sigma(W \cdot \{ \sum_{a \in C(i)}\alpha_i x_{ia}\}+b) hiI​=σ(W⋅{∑a∈C(i)​αi​xia​}+b), 其中 ${\alpha }_i=\frac{1}{|C(i)|}$。但是每个interaction的影响应该是不一致的，所以这种方法存在问题。

使用注意力机制：

h i I = σ ( W ⋅ { ∑ a ∈ C ( i ) α i a x i a } + b ) h_i^I =\sigma(W \cdot \{ \sum_{a \in C(i)}\alpha_{ia} x_{ia}\}+b) hiI​=σ(W⋅{∑a∈C(i)​αia​xia​}+b), 这种注意力网络的输入是 $x_{ia}$以及目标用户 $u_i$的嵌入 $p_i$。注意力网络定义如下： ${\alpha }_{ia}^{\ast }=w_2^T\cdot \sigma (W_1\cdot [x_{ia}\oplus p_i]+b_1)+b_2.$ 之后再经过正则化操作: ${\alpha }_{ia}=\frac{exp({\alpha }_{ia}^{\ast })}{{\sum }_{a\in C(i)}exp({\alpha }_{ia}^{\ast })}$

social aggregation：
用于从社交网络中获取用户潜在因子。过程与上面类似，不再多加叙述：

learning user latent factor：
需要同时考虑item-space user latent factors以及social-space user latent factors。在经过concatenation以后通过MLP来组合他们。

2.4 item modeling

需要同时考虑interactions和opinions。与user的item aggregation基本一致，不再赘述。

2.5 rating prediction

本文的模型GraphRec聚焦于rating prediction。

2.6 model training

目标函数：

3.experiment