Next Item Recommendation with Self-Attentive Metric Learning
Shuai Zhang, Yi Tay, Lina Yao, Aixin Sun, Jake An
University of New South Wales, Nanyang Technological University
https://recnlp2019.github.io/papers/RecNLP2019_paper_21.pdf
这篇文章提出一种新的序列推荐模型。该模型利用自注意力机制从用户历史行为中推断商品之间的关系。
考虑自注意力之后,该模型能够估计用户行为轨迹中每个商品的相对权重,进而可以对用户短暂兴趣学到更好的表示。
该模型利用度量学习框架来训练,不仅考虑用户的局部意图,还考虑了用户的全局意图。
实验结果表明该方法相对STOA有大幅提升。
这篇文章的主要贡献如下
序列推荐简介如下
自注意力模块图示如下
自注意力的基本模块描述如下
数学表示如下
首先需要映射到相同空间,然后进行softmax
然后value保持不变
亲合矩阵跟value相乘可以得到自注意力模块,然后可以利用一些聚合操作来得到用户的时序意图。
作者们利用以下方式融入时间信息
另外,作者们没有基于点积,而是利用欧式距离来衡量用户跟商品之间的相似性