【论文笔记】AAAI2019 Session-based Recommendation with Graph Neural Networks

PROBLEM

以往的方法以序列建模session来评估用户、items表示，但不能准确高效地获取sessions里的用户向量，忽略了items复杂的过渡.

SOLUTION

提出基于GNN的SBR方法，sessions被建模成图结构数据，GNN可以捕捉items间复杂的过渡，每一session利用注意网络由全局偏好和当前兴趣组成.

APPROACH

Framework

Constructing Session Graphs

V = { v 1 , v 1 , ⋯   , v m } V=\{v_1,v_1,\cdots,v_m\} V={v1​,v1​,⋯,vm​}表示所有sessions里包含的所有unique items.
一个session按时间戳排序，由$s=[v_{s,1},v_{s,2},\cdots ,v_{s,n}]$表示.

每一session $s$建模为有向图$\mathcal{G}=({\mathcal{V}}_s,{\mathcal{E}}_s)$，在session graph中，每一结点表示一个item $v_{s,i}\in V$，每条边$(v_{s,i-1},v_{s,i})$意味着用户在session $s$内在点击$v_{s,i-1}$后点击了$v_{s,i}$.

Learning Item Embeddings on Session Graphs

$$\begin{array}{rl}{\text{a}}_{s,i}^t& ={\text{A}}_{s,i:}{\left[{\text{v}}_1^{t-1},\dots ,{\text{v}}_n^{t-1}\right]}^T\text{H}+\text{b},\\ {\text{z}}_{s,i}^t& =\sigma ({\text{W}}_z{\text{a}}_{s,i}^t+{\text{U}}_z{\text{v}}_i^{t-1}),\\ {\text{r}}_{s,i}^t& =\sigma ({\text{W}}_r{\text{a}}_{s,i}^t+{\text{U}}_r{\text{v}}_i^{t-1}),\\ {\tilde{\text{v}}}_i^t& =\tanh ({\text{W}}_o{\text{a}}_{s,i}+{\text{U}}_o({\text{r}}_{s,i}^t\odot {\text{v}}_i^{t-1})),\\ {\text{v}}_i^t& =(1-{\text{z}}_{s,i}^t)\odot {\text{v}}_i^{t-1}+{\text{z}}_{s,i}^t\odot {\tilde{\text{v}}}_i^t\end{array}\text{\hspace{1em}(1,2,3,4,5)}$$
其中$\text{H}\in {\mathbb{R}}^{d\times 2d}$控制权重，${\text{z}}_{s,i}$和${\text{r}}_{s,i}$分别是重置门和更新门，$\left[{\text{v}}_1^{t-1},\dots ,{\text{v}}_n^{t-1}\right]$是session $s$结点向量列表，${\text{v}}_i$是结点$v_{s,i}$的潜在向量表示，连接矩阵${\text{A}}_s\in {\mathbb{R}}^{n\times 2n}$决定graph中结点间如何彼此交互，${\text{A}}_{s,i:}\in {\mathbb{R}}^{1\times 2n}$是相对于结点$v_{s,i}$在${\text{A}}_s$中的两列.
${\text{A}}_s$被定义为两个邻接矩阵${\text{A}}_s^{(\text{out})}$和${\text{A}}_s^{(\text{in})}$的拼接.

Generating Session Embeddings

local embedding ${\text{s}}_l={\text{v}}_n$.
采取软注意力机制得到global preference：
$$\begin{array}{rl}{\alpha }_i& ={\text{q}}^T\sigma ({\text{W}}_1{\text{v}}_n+{\text{W}}_2{\text{v}}_i+\text{c}),\\ {\text{s}}_g& =\sum _{i=1}^n{\alpha }_i{\text{v}}_i\end{array}\text{\hspace{1em}(6)}$$
其中参数$\text{q}\in {\mathbb{R}}^d$和${\text{W}}_1,{\text{W}}_2\in {\mathbb{R}}^{d\times d}$控制item embeddings向量的权重.
最终混合embedding表示：
$${\text{s}}_h={\text{W}}_3[{\text{s}}_l;{\text{s}}_g]\text{\hspace{1em}(7)}$$
矩阵${\text{W}}_3\in {\mathbb{R}}^{d\times 2d}$将两个合并的embedding向量压缩到潜在空间${\mathbb{R}}^d$.

Making Recommendation and Model Training

计算每一候选item $v_i\in V$的得分并归一化：
$$\begin{array}{rl}{\hat{\text{z}}}_i& ={\text{s}}_h^T{\text{v}}_i\\ \hat{y}& =\text{softmax}(\hat{\text{z}})\end{array}\text{\hspace{1em}(8,9)}$$
使用交叉熵作为优化目标：
$$\mathcal{L}(\hat{\text{y}})=-\sum _{i=1}^m{\text{y}}_i\log ({\hat{\text{y}}}_i)+(1-{\text{y}}_i)\log (1-{\hat{\text{y}}}_i)\text{\hspace{1em}(10)}$$

EXPERIMENT

符号	表示
SR-GNN-FC	session内items间全连接
SR-GNN-NGC	归一化全局连接

符号	表示
SR-GNN-L	只有local embedding
SR-GNN-AVG	平均池化的global embedding
SR-GNN-ATT	采取注意力机制的global embedding