【论文笔记】CIKM2019 NISER: Normalized Item and Session Representations to Handle Popularity Bias

PROBLEM

作者指出当前的基于GNN的推荐模型存在popularity bias，模型偏向推荐流行items，不能很好地推荐相关的long-tail items（不太流行或不太频繁出现的items），图一描绘了items流行度的经典长尾分布.


如图三，高流行度的items有着较高的${\text{L}}_2\text{norm}$ ，然而较低流行度的items有极低的${\text{L}}_2\text{norm}$

SOLUTION

作者旨在激发训练和预测时约束item和session-graph表示在一个单位超球面的优势，具体而言，提出使用cosine similarity作为item和session embeddings间相似度的衡量方法，而非以往的inner product.
在训练和预测阶段，归一化item embeddings如下：
$${\tilde{\mathbf{i}}}_{\mathbf{k}}=\frac{{\mathbf{i}}_{\mathbf{k}}}{||{\mathbf{i}}_{\mathbf{k}}|{|}_2}$$
以此获得items集${\tilde{\mathbf{I}}}_{\mathbf{s}}$，则session embedding $\text{s}=f({\tilde{\mathbf{I}}}_{\mathbf{s}};\mathbf{\theta })$，同理获得归一化的session embeddings $\tilde{\mathbf{s}}$，$\mathbf{\theta }$是映射items到session embedding的函数$f$的参数，预测点击item $i_k$的得分：
$$\widehat{{\text{y}}_k}=\frac{\exp (\sigma {\tilde{\text{i}}}_k^T\tilde{\text{s}})}{{\sum }_{j=1}^m\exp (\sigma {\tilde{\text{i}}}_j^T\tilde{\text{s}})}$$
注意cosine similarity ${\text{i}}_k^T\tilde{\text{s}}$被约束在$[-1,1]$.

EXPERIMENT

NISER+表示带有position embeddings和dropout的NISER.