【论文笔记】SIGIR2020 Rethinking Item Importance in Session-based Recommendation

PROBLEM

现有工作不能充分注意到不同items与用户主要兴趣的相关性.

SOLUTION

同时考虑当前session用户的长短期偏好，应用修正的自监督机制评估item在当前session的重要性，以预测用户的长期偏好，短期偏好则由当前session最后交互item表示.

APPROACH

Framework

Importance extraction

将item embedding E = { e 1 , e 2 , … , e t } E=\{e_1,e_2,\dots,e_t\} E={e1​,e2​,…,et​}通过非线性函数转换到不同空间以生成$queryQ$和$keyK$：
$$\begin{array}{rl}Q& =\text{sigmoid}(W_{q}E),\\ K& =\text{sigmoid}(W_{k}E)\end{array}\text{\hspace{1em}(1,2)}$$
其中$W_{q}E\in {\mathbb{R}}^{d\times l}$和$W_{k}E\in {\mathbb{R}}^{d\times l}$是可训练的参数，$l$是注意力机制的维度.

通过引入$queryQ$和$keyK$的关联矩阵$C$计算每两个item间的相似度：
$$C=\frac{\text{sigmoid}(Q{K}^T)}{\sqrt{d}}\text{\hspace{1em}(3)}$$

将session内一个item和其他items间的平均相似度作为该item重要性，为避免$queryQ$和$keyK$相同向量的高匹配得分，采取将关联矩阵$C$的对角元素mask的操作，则每个item $i$的重要性得分${\alpha }_i$：
$${\alpha }_i=\frac{1}{t}\sum _{j=1,j\ne i}^t{C}_{ij}\text{\hspace{1em}(4)}$$
其中$C_{ij}\in C$.
归一化得分，最终当前session的items的重要性表示为：
$$\beta =\text{softmax}(\alpha )\text{\hspace{1em}(5)}$$

Preference fusion

用户长期偏好表示：
$$z_l=\sum _{i=1}^t{\beta }_i{e}_i\text{\hspace{1em}(6)}$$
用户短期偏好由最后一个item表示，即$z_s=e_t$.
用户最终偏好表示：
$$z_h=W_0[z_l;z_s]\text{\hspace{1em}(7)}$$
其中$W_0\in {\mathbb{R}}^{d\times 2d}$将拼接表示从${\mathbb{R}}^{2d}$转换到${\mathbb{R}}^d$.

Item recommendation

对于每一item $v_i$，用户的偏好得分为：
$$\widehat{z_i}=z_h^T{e}_i\text{\hspace{1em}(8)}$$
归一化得分：
$$\hat{y}=\text{softmax}(\hat{z})\text{\hspace{1em}(9)}$$
交叉熵作为优化目标：
$$L(\hat{y}=-\sum _{i=1}^n{y}_i\log ({\hat{y}}_i)+(1-y_i)\log (1-{\hat{y}}_i)\text{\hspace{1em}(10)}$$

EXPERIMENTS

Overall performance

Impact of session length

Analysis on importance extraction module