论文《An Effective Consistency Constraint for Sequential Recommendation》

C²Rec: An Effective Consistency Constraint for SequentialRecommendation

这篇文章提出了序列推荐建模中一种有效的一致性约束防范，不用修改模型结构，仅仅添加2个额外的损失函数，就能达到非常好的效果。不像基于对比学习的方法，需要较好的负采样方法、数据增强方法、较重的超参数调优方法，论文提出的方法简单有效。新的损失函数不挑模型，可以在广泛使用的sota模型上面增加，具有通用性。

基础模型

首先序列推荐模型的任务表示为：
$$P(v_{|s_u|+1}^{(u)}=v|s_u）$$
即预测用户是时刻$|s_u|+1$时和候选素材$v$交互的概率，$|s_u|$表示用户时刻$t$及之前交互的序列的长度。

设${\mathbf{s}}_u=f(s_u)$表示编码后的用户向量

基线模型的损失函数计算如下,$v_{t+1}^{+}$表示时刻$t+1$时刻正向行为素材，$v_{t+1}^{-}$表示$t+1$时刻负采样的素材，$w$表示模型参数

$$P({\mathbf{s}}_{u,t};w)=\frac{exp({\mathbf{s}}_{u,t}^T{v}_{t+1}^{+})}{exp({\mathbf{s}}_{u,t}^T{v}_{t+1}^{+})+{\sum }_{v^{-}\in V^{-}}exp({\mathbf{s}}_{u,t}^T{v}_{t+1}^{-})}$$

$$L_{basic}=-\log P({\mathbf{s}}_{u,t;w})$$

一致性约束

根据用户交互序列$s_u$用2个不同的Dropout参数产生2个用户向量${\mathbf{s}}_{u,t}^{d_1}$和${\mathbf{s}}_{u,t}^{d_2}$，基于新产生的两个向量来计算约束性loss，主要目的是希望不同Dropout产生的用户向量在向量空间中尽可能的相近。这里衡量相近的方法论文提到用的是KL距离，KL原本是衡量两个分布的差异性，用在这里衡量新产生的用户向量的差异。
Regularized Dropout Loss（RD）
基于新的用户向量${\mathbf{s}}_{u,t}^{d_1}$和${\mathbf{s}}_{u,t}^{d_2}$产生的概率分布$P({\mathbf{s}}_{u,t}^{d_1};w)$和$P({\mathbf{s}}_{u,t}^{d_2};w)$,loss计算如下：
$$L_{RD}=\frac{1}{2}(D_{KL}(P({\mathbf{s}}_{u,t}^{d_1};w)||P({\mathbf{s}}_{u,t}^{d_2};w))+D_{KL}(P({\mathbf{s}}_{u,t}^{d_2};w)||P({\mathbf{s}}_{u,t}^{d_1};w)))$$

示意图如下：

Distributed Regularization Loss（DR）
上面是衡量同一个用户的2个不同用户向量的分布差异，这里进一步衡量不同用户的向量之间的差异，在mind-batch内，设有$n$个用户$(u_1,u_2,...,u_n)$，每个用户都有2个用户向量表示$({\mathbf{s}}_{u_1}^{d_1},{\mathbf{s}}_{u_2}^{d_1},...,{\mathbf{s}}_{u_n}^{d_1})$和$({\mathbf{s}}_{u_1}^{d_2},{\mathbf{s}}_{u_2}^{d_2},...,{\mathbf{s}}_{u_n}^{d_2})$.对于每个用户，例如$u_1$，计算${\mathbf{s}}_{u_1}^{d_1}$和所有其他用户表示${\mathbf{s}}_{u_j}^{d_1}$的相似性，定义为$sim({\mathbf{s}}_{u_1}^{d_1},{\mathbf{s}}_{u_j}^{d_1})$，那么会得到一个相似性的分布
$$P(s_{u_1}^{d_j};w)=softmax(sim({\mathbf{s}}_{u_1}^{d_1},{\mathbf{s}}_{u_2}^{d_1}),...,sim({\mathbf{s}}_{u_1}^{d_1},{\mathbf{s}}_{u_n}^{d_1}))j=1,2$$
那么也希望同一个用户的两个向量和其他用户对应的向量的相似性分布在向量空间的距离越近越好，也是用KL距离衡量这个距离。
$$L_{DR}=\frac{1}{2}(D_{KL}(P({\mathbf{s}}_u^{d_1};w)||P({\mathbf{s}}_u^{d_2};w))+D_{KL}(P({\mathbf{s}}_u^{d_2};w)||P({\mathbf{s}}_u^{d_1};w)))$$

Final loss
$$L_{basic}({\mathbf{s}}_{u,t};w)=-\frac{1}{2}(\log (P({\mathbf{s}}_{u,t}^{d_1};w))+\log (P({\mathbf{s}}_{u,t}^{d_2};w)))$$

$$L_{final}=L_{basic}+\alpha L_{RD}+\beta L_{DR}$$

这2个一致性约束从本质上讲其实是一种数据增强方式，和对比学习不同，对比学习一般是数据级增强，这个可以成为模型级增强，通过不同的Dropout参数生成不同的用户向量。那么也可以通过其他方式，比如说两个完全不同的encoder编码出2个不同的用户向量，然后也用一致性约束。还可以按不同的mask比例抽取用户序列生成不同的用户向量。不过可能要复杂些，Dropout是一种比较简单的方式。

实验部分

效果比较，论文提出的CTRec效果最好

消融实验

RD Objective 可以看到，不同的$\alpha$下，增加RD loss效果都比基线好很多，论文说可能是因为RD Objective直接影响到了用户向量输出的概率分布。对于超参数$\alpha$，数值越大，收益越大，到达2.0后再增大，收益反而变小，数值过大会影响大目标函数的主loss。

DR Objective可以看到在大部分$\beta$值下，DR loss也是有增益的，说明对用户和其他用户的向量一起约束还是有效果的。同时对于超参数$beta$，大于0.3后开始随值的增大收益增大，数值到2.0后开始下降，也是过大的权重导致模型会在DR目标上面加强学习，反而会降低主目标的优化空间。

同时下图使用cosine和L2距离来衡量，相较于基线没有取得更好的收益，更加说明的使用论文提出的KL距离衡量是有益的。

Dropout Rates. Dropout的比例也做了分析，在0.6-0.7一般达到最佳，再增大就剧烈下降，数值过大信息损失过大，反而学不到啥。

论文比较了不同的数据一致性约束方法，包括对比学习的方式，验证CTRec的方式有效性。

更多个的一致性约束

论文还提到一个一致性约束，随机抽取用户序列中2个行为，让两个行为的Embedding距离在空间中尽可能相近，cosine距离约束，加到CTRec中，效果更好。