GCRec笔记--Graph-Augmented Capsule Network forNext-Item Recommendation

摘要

• 一句话总结：GCRec方法通过引入图卷积模块、胶囊模块和位置感知门控模块，以及双门机制，有效解决了传统推荐方法在捕捉物品转移模式、长期和短期用户兴趣整合方面的局限性。

• 问题：在下一项推荐任务中，传统的推荐方法难以明确捕捉物品转移模式的固有顺序影响，仅能提供简单而粗略的表征，且无法动态整合长期和短期用户兴趣。

• 解决办法：提出了一种名为图增强胶囊网络（GCRec）的新方法，以更细粒度的方式利用连续的用户行为。

• 怎么做的：1. 使用线性图形卷积模块学习用户的信息性长期表征。 2. 设计特定于用户的胶囊模块和位置感知门控模块，捕捉联合级和点级的序列模式。 3. 设计双门机制，聚合长期和短期用户兴趣作为表征向量，确定每个模块的贡献率。

引言

• para1:这段话主要讲序列化推荐系统关键在于同时建模长期和短期用户偏好，以预测下一个感兴趣的物品。用户历史操作反映长期偏好，最近访问的物品反映短期兴趣。通过平衡这两者，实现个性化服务和增加内容提供商利润。

• para2:这段话主要介绍了个性化马尔可夫链（MC）结合矩阵分解（MF）在用户偏好建模中的应用，以及高阶MC在学习序列模式中对模型保真度的积极影响。同时，提出了联合级和点级两个角度来捕捉转换依赖关系，但未能同时捕获两者。这可能导致性能不佳。

• para3：这段话主要讲述了最近研究显示，联合级和点级的影响对于建模短期用户兴趣具有互补性。Ma等人提出了一种名为分层门控网络的下一商品推荐方法，通过分层门控模块和物品-物品产品模块实现良好性能。然而，此方法仍存在一定局限性：（1）对顺序不敏感（2）不足以产生令人满意的用户长期表示（3）忽视动态整合长期和短期用户兴趣建模的重要性

• para4: 这是一种名为GCRec的基于图增强的胶囊网络，用于提高下一项推荐的质量和顺序感知。它通过线性图形卷积模块学习用户的信息性长期表示，并利用用户物品二部图的高阶连通性进行表征传播。此外，设计了特定于用户的胶囊模块和位置感知门控模块来学习用户的短期兴趣。特定于用户的胶囊模块捕获顺序敏感的最近交互项目间的并集级转换依赖关系，而位置感知门控模块则区分和选择反映短期用户兴趣的信息项。为了集成这三个模块，还设计了一个双门控机制，以在特定情况下衡量每个模块的重要性。

• para5：本文贡献：（1）我们提出了一种新的解决方案，称为GCRec，它显式地利用顺序感知的序列化信息来进行下一项推荐。(2）我们设计了一个特定于用户的胶囊模块和一个位置感知门控模块，以捕捉联合级和点级物品转换模式的内在顺序。（3）我们设计了一种双门控机制，自适应地融合了长期和短期的用户兴趣。通过这种方式，GCRec有权确定哪个模块对于预测用户的下一步操作更重要。（4）我们在多个推荐场景下进行了大量的实验，结果表明GCRec比几种最先进的方法都有很大的改进。进一步的分析不仅验证了显式利用顺序感知序列化信息的必要性，而且证明了我们的解决方案的合理性。

• para7:剩余工作安排

相关工作

• 一般推荐

• 序列化推荐

• 胶囊网络

• 方法论 在这一部分中，我们提出了一种新的解决方案GCRec，它 明确利用顺序感知的序列化信息进行下一个物品推荐。首先，阐述了本文要解决的问题。然后，我们验证我们提出的GCRec如何同时地捕获长期和短期用户偏好 。如图2所示，GCRec包括四个关键组件：表征初始化、长期用户兴趣建模、短期用户兴趣建模和模型预测。最后，我们描述了如何优化GCRec，并提供了详细的理论分析。

  • 问题描述

  • 表征初始化

  • 长期用户兴趣建模

    • 图结构

    • 线性表征传播

    • 层组合

  • 短期用户兴趣建模

    • 特定于用户的胶囊模块

    • 位置感知门控模块

  • 模型预测

    • 级联融合

    • 加法融合

  • 模型优化

实验

• 实验设置

  • 数据集

  • 评估指标

  • 基线

  • 超参数设置

• 与最先进的性能比较

  • 总体比较

  • 基于不同稀疏度级别的用户的性能

• 消融研究

• 融合策略的效果

• 超参数敏感度

• 训练效率

总结与展望

• 在这项工作中，我们提出了一个图增强的胶囊网络来完成下一项推荐任务。具体地说，我们的模型包括：1)学习用户信息的长期表示的线性图卷积模块；2)对相对顺序敏感并捕捉并集级序列模式的特定用户胶囊模块；3)位置感知模块，在点级区分L阶MC中每一物品的重要性。为了自适应地结合长期和短期用户兴趣，我们进一步设计了双门控机制，在不同的时间步长确定每个模块对不同用户的贡献率。在四个公共基准上的广泛实验表明，我们的解决方案在一系列最先进的模块上获得了显著的性能提升，并验证了所设计模块的合理性。

• 未来工作：探索胶囊网络的潜力，以克服序列化和多样化的推荐问题，研究如何将社交网络纳入我们的GCRec，并探索动态社会影响和序列化模式的联合效应。

疑问点：

1在对并集级序列模式进行建模时，它们忽略了序列方向信息的影响，在对点级序列模式进行建模时，它们对相对时间位置不敏感。这句话不太理解

• 

 答：并集级 多对一的关系 点级：一对一的关系 使用胶囊模块可以捕获这种多对一的关系，能保留方向信息。

2特定于用户的胶囊模块是怎么捕捉这个转换关系的？ 这里设计了特定于用户的胶囊模块，那我们可不可以设计个特定于物品的胶囊模块呢？

• 

答： 可以设计特定于物品的胶囊模块。 

3.为什么用水平卷积？

• 

 答：水平卷积： 行 捕获物品与物品的关系

         垂直卷积：列  捕获因子与因子的关系 （一个D维就有D个因子）

 极大似然估计：