【论文阅读_序列推荐】Intent Contrastive Learning for Sequential Recommendation-CSDN博客

论文地址：Intent Contrastive Learning for Sequential Recommendation
code：ICLRec

1. 导读

用户与物品的互动是由各种意图驱动的（例如，准备节日礼物、购买捕鱼设备等）。然而，用户的潜在意图往往是不被观察到/潜在的，因此很难利用这些潜在意图进行序列推荐（SR）。本文提出了意图对比学习（ICL），通过聚类将潜在意图变量引入SR。其核心思想是从未标记的用户行为序列中学习用户的意图分布函数，并通过考虑学习的意图来优化SR模型，从而改进推荐模型。

本文主要是针对用户的兴趣表征进行聚类，然后以簇中心代表用户意图，根据用户意图和用户兴趣表征构建损失函数，并且结合原有的序列损失函数和对比学习损失函数构建多任务损失函数。

2. 基础

2.1 问题定义

用户集合U，商品集合V，每个用户有 $S^{_{u}}$ 一个交互序列 $S^{^{u}}=\left \{ s_{1}^{u},...,s_{\left | s^{u} \right |}^{u} \right \}$ , $s_{t}^{u}$ 表示在时间步t时，用户u交互的商品。令 $S^{u}$ 表示序列的embedding，即对序列中的每个商品进行编码，得到对应的embedding的集合。在实践中，固定长度T，序列长了就裁剪，短了就补全。模型目标是预测第| $S^{u}$ |+1个交互的商品。

2.2 序列模型

深度序列推荐模型，通常是将交互序列embedding集合 $S^{u}$ 进行编码，发掘用户的兴趣表征 $H^{u}=f_{\theta }\left ( S^{u} \right )$ ，H中的每个元素表达用户在位置t时的兴趣。序列模型建模时，通常是对一个序列中，每次前t个构成的子序列来预测第t+1个商品，因此可以建模如下，其中负样本 $s_{neg}$ 为随机采样得到。

2.3 推荐中的对比自监督学习

本文利用的对比学习自监督相关方法是，按照互信息最大化（MIM）原则，融合一个序列不同视图之间的相关性。给定一个序列 $S^{u}$ 和预先定义的函数集合G，构建两个正样本的视角（positive view）,公式如下，其中g是从G中采样得到的转换函数（转换方式包括对序列加掩码，裁剪和重排序等），通常，从同一序列创建的视图被视为正对，任何不同序列的视图都被视为负对。

构建的新序列，经过编码器得到对应的序列兴趣表征集合 $H_{1}^{u}$ , $H_{2}^{u}$ ，将其聚合后得到兴趣向量表示当前整个序列的表征\，文中采用的聚合方式是拼接。然后根据infoNCE来构建损失函数，sim()表示内积，hneg表示负视角构建的兴趣表征。

3. 方法

上图为总体框架图。通过EM算法交替执行E步和M步来估计意图变量c的分布函数并对模型参数进行了优化 . 在E-step中，它通过聚类估计 ( ) 。在M-step中，它通过梯度下降进行优化。

E步，进行聚类，得到不同簇反映的用户意图
M步，根据用户意图和兴趣表征，进行损失函数的计算以及参数更新。

3.1 ICL

3.1.1 建模潜在意图

假设用户存在K个意图{ci}i=1K，则优化目标可以改写为下式，通常的RS是不考虑用户意图，直接通过交互序列embeddingstu进行第t+1的预测，具体公式可以看2.2，而ICL中，考虑用户意图，计算每个意图与第t次交互embedding的关系，然后将所有关系求期望后，在根据常用的流程往下计算损失。