论文分析：Disentangling ID and Modality Effects for Session-based Recommendation

本文将剥去故事的外壳，精解论文《Disentangling ID and Modality Effects for Session-based Recommendation》(SIGIR, 2024)，笔者水平有限，如有疏漏敬请指正。移步博客页面获得更佳阅读体验。[arxiv]

1. 研究动机

会话推荐中对用户行为的建模主要包含两方面：商品共现信息和商品模态信息。然而现有方法将这两种特征缠绕在一起，无论是显式对齐还是直接相加，强行使得二者相近势必会弱化模态本身的语义信息，甚至引入噪声，对推荐准确率和解释性都有很大影响。因此该文章针对会话推荐，设计了商品ID特征和模态特征的解耦机制。

2. 核心创新点

• 模型使用两个Transformer Encoder分别得到ID和模态特征，设计了损失函数 $L_{pro}$ 使得两特征不要太接近。

• 由商品转移关系判断促使用户交互的是共现因素还是模态因素，使用对应的损失函数 $L_{ct}$ 优化参数。

3. 模型结构

3.1 构建共现矩阵

基于所有会话的转移关系，计数转移次数，构建有向带权图，w[i, j]表示用户“与i商品交互后与j交互”这样的二元关系出现次数。最后行归一化使得每行元素之和为1，得到图示的共现矩阵A。

3.2 ID特征

可学习embedding ${\hat{E}}^{id}$ ，通过共现矩阵卷积得到商品最终ID特征 $E^{id}$ 。

$$E^{id}=(A+I){\hat{E}}^{id}$$

将会话序列ID embedding通过Transformer Encoder，得到整个会话的ID表征 $s^{id}$ 。

$$s^{id}=S{A}_{id}([e_1^{id},e_2^{id},...,e_m^{id}])$$

3.3 模态特征

图片经过GoogLeNet得到的top-2分类，与文本一同送入BERT，得到的embedding序列取平均，作为该商品的模态联合表征（结合了两个模态）。同样通过Transformer Encoder，得到整个会话的模态表征 $s^{mo}$ 。

$$s^{mo}=S{A}_{mo}([e_1^{mo},e_2^{mo},...,e_m^{mo}])$$

3.4 预测得分

将 $y_i$ 解耦为ID和模态两部分，分别用会话表征匹配item embedding，越相近该项得分越高。

$$y_i=s^{id}{e}_i^{id}+s^{mo}{e}_i^{mo}$$

3.5 解耦特征损失

为解耦ID和模态特征，设计了 $L_{pro}$ ，使得经Transformer得到的特征在避免原有语义信息减损的情况下，降低两特征的交缠。（不过这里的 $W_{\ast }$ 权重矩阵的设计感觉有些复杂）

3.6 解耦推理损失

主要思想是：如果用户是因为共现而交互，那么损失函数优化会话的共现特征表示；否则用户是因为模态而交互，则要优化模态特征表示。

其中 $N_s$ 表示s会话中所有item在共现图中所有邻居item的集合。

3.7 其他损失

我们希望共现较多的item embedding相近，反之远离。因此基于共现矩阵构建了top-l正样本集合 { e 1 i d + , e 2 i d + , . . . , e l i d + } \{e_{1}^{id+},e_{2}^{id+},...,e_{l}^{id+}\} {e1id+​,e2id+​,...,elid+​} 和无交互的负样本集合 { e 1 i d − , e 2 i d − , . . . , e l i d − } \{e_{1}^{id-},e_{2}^{id-},...,e_{l}^{id-}\} {e1id−​,e2id−​,...,elid−​} 。

其中 ${\overline{e}}_i^{+}=\frac{1}{l}{\sum }_{k=1}^l{e}_k^{id+}$ 。该项损失强调了ID特征中的共现信息。

4. 漫谈

该模型能够增强一些会话推荐的解释性，主要原因如3.6，可以区分用户交互源自共现图还是模态提供的信息。