A Survey on Knowledge Graph-Based Recommender Systems

• 摘要
  • 推荐系统当前仍然存在冷启动问题喝数据稀疏的问题
  • 而利用知识图谱可以更加精准地推荐并且更加具有解释性
  • 摘要看完之后，我认为主要是推荐系统会遇到冷启动和数据稀疏等问题，然后怎么样用知识图谱进行推荐，从而减缓以上的问题，总结了最近地文章，并且指出未来可能的研究方向！
• 介绍了推荐系统和知识图谱
  • 推荐系统
    • 基于内容的过滤（Content Based Filtering）
      • 基于内容相似度，不会考虑用户过去的行为
      • 无需像基于内容提取特征
      • 问题就在于冷启动和数据稀疏上
    • 协同过滤（Collaborative Filtering）
      • 基于用户过去的行为，利用群体的行为来做决策
      • 基于内存的协同过滤
        • 基于用户的协同过滤
        • 基于内容的协同过滤
      • 基于模型的协同过滤
    • 混合推荐（Hybrid）
      • 两者结合
      • （像操作系统的段页表）
  • 知识图谱
    • 知识图谱是一个异构图，节点充当实体，边表示实体之间地关系
  • 将知识图谱应用在推荐系统上的三种方式
    • 基于嵌入式的方法
    • 基于路径的方法
    • 统一的方法
  • 自己对于搜索引擎和推荐引擎的理解
    • 搜索引擎更倾向于人们有明确的目的(会有马太效应的问题)
    • 而推荐引擎更倾向于人们没有明确的目的，或者说他们的目的是模糊的
• 3 Overview和4 METHODS OF RECOMMENDER SYSTEMS WITHKNOWLEDGE GRAPHS
  • Embedding-based Methods（基于嵌入的方法）
    • KGE（knowledge graph embedding）算法
      • translation distance models 平移（翻译）距离模型 TransE [99], TransH [100],TransR [101], TransD [102]；
      • semantic matching models 语义匹配模型 DistMult [103]
    • embedding-based methods can be divided into two classes
      • 第一种：知识图谱由从数据集或外部知识库中提取的项目及其相关属性构成————项目图 item graph
        KGs are constructed with items and their related attributes, which are extracted from the dataset or external knowledge bases——————We name such a graph as the item graph.
        • 用户不包含在此类项目图中。遵循该策略的论文利用知识图谱嵌入 (KGE) 算法对图进行编码以获得更全面的项目表示，然后将项目侧信息集成到推荐框架中。
          Note that users are not included in such an item graph. Papers following this strategy leverage the knowledge graph embedding (KGE) algorithms to encode the graph for a more comprehensive representation of items, and then integrate the item side information into the recommendation framework.
        • 每个Vj项目的最终表示（The latent vector vj of each item vj is obtained by aggregating information from multiple sources）
          • =用户-项目交互矩阵提取得到的nj+使用 TransR 算法编码得到的xj +文本特征Zt,j+视觉特征Zv,j
        • 偏好分数yi,j is obtained via the inner product ui &vj . ui与vj的内积 然后进行排序
        • DKN 知识图谱特征学习
          • 结合使用Kim CNN学习的句子文本嵌入和通过TransD将实体在新闻内容中的指示级嵌入来对新闻建模
        • 分母是总权重，分子是单个新闻的权重，得到权重值

          

        • 以上一系列说明了user's preference for candidate news vj can be calculated with Equation

          

      • 另一种：基于嵌入的方法直接构建用户-项目图，其中用户、项目及其相关属性充当节点。
        The other type of embedding-based method directly builds a user-item graph, where users, items, and their related attributes function as nodes. I、
        • the relation embedding r into a scalar——将 关系r 嵌入标量

          

        • 1、以前的工作通过KGE，而最近试图改进entity/relation的表示来提高推荐性能（未细读原理）
        • 2、BEM 用两种类型图来表示物品
          the knowledge-related graph (containing item attributes information, like brand, category, etc.) and behavior graph (containing item interaction-related information, including co-buy, co-rate, co-add to cart) for recommendation
        • 3、多任务学习
        • 4、KTUP联合学习推荐
        • 5、MKR
          • 一个推荐模块和一个KGE模块组成
        • 6、RCF 引入了项目的分层描述，包括关系类型嵌入和关系值嵌入，它用注意力机制分别对用户的类型偏好和价值偏好进行建模。通过推荐模块和KG关系建模模块的联合训练，可以做出不错的推荐。
      • Sumary
        • 构建具有多种项目侧信息的KG，以丰富项目的表示，这些信息可以用于更精确地对用户表示进行建模。
          build KGs with multiple types of item side information to enrich the representation of items, and such information can be used to model the user representation more precisely.
        • 通过将用户引入图中来构建用户-项目图，可以直接对用户偏好进行建模。实体嵌入是基于嵌入的方法的核心
          build user-item graphs by introducing users into the graph, which can directly model the user preference. Entity embedding is the core of embedding-based methods
        • 一些论文使用 GAN [69] 或 BEM [74] 改进嵌入以获得更好的推荐。
          some papers refine the embedding with GAN [69] or BEM [74] for better recommendation.
        • 应用多任务学习的策略，将推荐模块与图相关任务联合训练，以提高推荐质量。
          apply the strategy of multi-task learning to jointly train the recommendation module along with the graph-related task to improve the quality of recommendation.
  • Path-based Methods（基于路径的方法）
    • 基于路径的方法构建用户项图，并利用图中实体的连接模式进行推荐.从2013年开始就开始使用了，传统papers称这种方法是HIN图中的推荐 。
      Path-based methods build a user-item graph and leverage the connectivity patterns of the entity in the graph for recommendation. Path-based methods have been developed since 2013, and traditional papers call this type of method as recommendation in the HIN.
    • 核心思想：利用users或items连接的相似性去提升推荐。
      In general, these models take advantage of the connectivity similarity of users and/or items to enhance the recommendation.
    • 定义了PathSim来衡量路径的相似性
      To measure the connectivity similarity between entities in the graph,PathSim [107] is commonly used.
      • User-User Similarity
      • Item-Item Similarity
      • User-Item Similarity
    • Hete-MF（异构信息网络中具有实体相似性正则化的协同过滤）
      • 抽取L条不同元路径并对每种路径计算item-item相似度。将item-item正则化与加权非负矩阵因式分解方法相结合，从而细化用户和项目的低秩表示，以便更好地推荐。
    • Hete-CF（Hete-CF：使用异构关系的基于社会的协同过滤推荐）
      来自：2014 Hete-CF: Social-Based Collaborative Filtering Recommendation Using Heterogeneous Relations
      • Hete-CF扩展了Hete-MF,加入了通过将user-user similarity, item-item similarity, and user-item similarity一起作为正则化项来找到用户对未评级项目的亲和力。因此，Hete-CF 优于 Hete-MF 模型。
    • HeteRec
      2013-Recommendation in heterogeneous information networks with implicit user feedback
      • 利用元路径相似性来丰富用户-项目交互矩阵R，从而可以提取更全面的用户和项目表示。
    • HeteRec-p
      • 进一步考虑了不同元路径的重要性，对于不同的用户来说应该是不同的。Hete Rec-p首先将用户根据过去的行为分为c个类，并利用聚类信息生成个性化推荐，而不是应用全局偏好模型。
    • FMG
      2017-Meta-Graph Based Recommendation Fusion over Heterogeneous Information Networks
      • 通过用元图替换元路径来设计 FMG。由于元图包含比元路径更丰富的连接信息，FMG 可以更准确地捕获实体之间的相似性。
    • SemRec
      2015-Semantic Path based Personalized Recommendation on Weighted Heterogeneous Information Networks
      • 考虑了用户喜欢和讨厌的过去项目的交互
    • RuleRec
      2019-Jointly Learning Explainable Rules for Recommendation with Knowledge Graph
      • 通过利用项目在外部 KG 中的连接性来学习相关项目（共同购买、共同查看等）之间的关系
    • MCRec
      2018-Leveraging Meta-path based Context for Top- N Recommendation with A Neural Co-Attention Model
      • 学习元路径的显式表示来描述用户-项目对的交互上下文
    • RKGE
      2018-Recurrent knowledge graph embedding for effective recommendation
      • 该方法自动挖掘用户 ui 和项目 vj 之间的路径关系，而无需手动定义元路径
    • KPRN
      2018-Explainable Reasoning over Knowledge Graphs for Recommendation
      • 使用实体嵌入和关系嵌入来构造提取的路径序列。
    • EIUM
      2019-Explainable Interaction-driven User Modeling over Knowledge Graph for Sequential Recommendation
      • 它捕获用户的动态兴趣以进行顺序推荐
    • PGPR
      2019-Reinforcement Knowledge Graph Reasoning for Explainable Recommendation
      • 使用强化学习 (RL) 来搜索用户-项目对之间的合理路径。
    • EKar*
      2019-Explainable Knowledge Graph-based Recommendation via Deep Reinforcement Learning.
      • 提出了一个同上方法类似的模型，EKar*，它也采用了 RL（强化学习） 技术来生成推荐序列。
  • Unified Methods（统一方法）
    • 4.1 节和第 4.2 节所述，基于嵌入的方法利用 KG 中用户/项目的语义表示进行推荐，而基于路径的方法使用语义连接信息，并且这两种方法都仅利用图中信息的一个方面。
    • RippleNet
      2018-RippleNet: Propagating User Preferences on the Knowledge Graph for Recommender Systems
      • 这是第一个引入偏好传播概念的工作。利用用户的点击记录，不断外扩发现用户的可能兴趣点。RippleNet 沿着 KG 中的路径传播用户的偏好从历史兴趣。
    • AKUPM
      2019-AKUPM: Attention-Enhanced Knowledge-Aware User Preference Model for Recommendation
      • 类似于 RippleNet。提出了 AKUPM，它根据用户的点击历史来建模用户。 AKUPM 首先将 TransR 应用于实体表示。在每个传播过程中，AKUPM 通过自注意力层学习实体之间的关系，并将用户的偏好传播到具有偏见的不同实体。最后，用自注意机制对交互项的不同阶邻居的嵌入进行聚合，得到最终的用户表示。
    • RCoLM
      2019-Unifying Task-Oriented Knowledge Graph Learning and Recommendation
      • 这个方法是AKUPM的延伸，它联合训练KG的补全模块与推荐两个模块，在这里AKUPM作为backbone骨干.
    • KGCN
      2019-Knowledge Graph Convolutional Networks for Recommender Systems.
      • 将实体在KG中的嵌入从vj的远方邻居聚合到vj本身来实现对候选项目vj的最终表示（？？？？？）
    • KGCN-LS
      2019-Knowledge-aware Graph Neural Networks with Label Smoothness Regularization for Recommender Systems
      • KGCN-LS，它在KGCN模型上进一步增加了一个标签平滑度（LS）机制。LS机制将用户交互的信息，在KG上传播用户交互的标签，能够指导学习过程，获得候选项目vj的综合表示。
    • KGAT
      2019-KGAT: Knowledge Graph Attention Network for Recommendation
      • 它直接用嵌入传播来模拟用户和物品之间的高阶关系
    • KNI
      2019-An end-to-end neighborhood-based interaction model for knowledge-enhanced recommendation
      • 它进一步考虑了项目侧邻居和用户侧邻居之间的交互，使得用户嵌入和项目嵌入的细化过程不分离。
    • IntentGC
      2019-IntentGC: a Scalable Graph Convolution Framework Fusing Heterogeneous Information for Recommendation
      • 它利用图中丰富的用户相关行为来获得更好的推荐。他们还设计了更快的图卷积网络来保证 IntentGC 的可扩展性。
      • 阿里巴巴发表在KDD2019的论文，融合了异构信息网络中的许多辅助信息进行推荐。
    • AKGE
      2019-Attentive Knowledge Graph Embedding for Personalized Recommendation.
      • 通过在该用户-项目对的子图中传播信息来学习用户 ui 和候选项目 vj 的表示。
• 总结
  • 整篇文章从更准确的推荐和可解释性方面展示了基于 KG 的推荐系统的优势
  • 给出了一些可能的研究方向
    • Dynamic Recommendation 动态推荐
      • 因为用户的兴趣会很快收到社交或者朋友的影响而改变，所以需要动态推荐
    • Multi-task Learning 多任务学习 ？？？
      • train the KG completion module and recommendation module？？？联合两个模块进行学习？叫做多任务学习？
    • Cross-Domain Recommendation 跨域推荐
      • 我的理解是，其他域（比如亚马逊的图书评分领域）数据集更多，通过将不同领域的用户和产品放在一个图中，进行跨域推荐。
    • Knowledge Enhanced Language Representation 知识增强语言表达
      • 感觉就像是增强nlp？从而获得更准确的推荐结果。
    • Knowledge Graph Embedding Method 知识图嵌入方法
      • 这个研究方向就是，要去比较不同的KGE方法在不同条件下的优势！（这个挺好玩的，通过实践数据总结去得出结论，是自己喜欢干的事）
      • there is no comprehensive work to suggest under which circumstances, including data sources, recommendation scenarios, and model architectures, should a specific KGE method be adopted.
    • User Side Information 用户辅助信息
      • 目前大多数的基于KG的推荐系统都是通过整合项目方的信息，而非考虑用户方的信息
• 综述三大问
  • 论文介绍的研究究竟是什么
    • 从两个方面总结了基于知识图谱的推荐系统
      • how the papers utilize the knowledge graph for accurate and explainable recommendation
      • introduce datasets used in these works
    • 把知识图谱的使用归成了三类
      • embedding-based method
      • path-based method
      • unifified method
  • 目前做得如何
    • A recent research trend is to unify the embedding-based method and the path-based method to fully exploit information from both sides. Moreover, unified methods also have the ability to explain the recommendation process.
    • 最近的一个研究趋势是统一基于嵌入的方法和基于路径的方法，以充分利用双方的信息。此外，统一的方法还具有解释推荐过程的能力。
    • 将知识图谱作为辅助信息生成推荐缓解了冷启动和数据稀疏的问题以获得更准确的推荐，还可以为推荐项目提供解释。（我觉得可解释性特别重要）
  • 存在什么尚未解决的问题
    • 正如总结所说，所给出的研究方向就是尚未解决，或者是还可以继续优化的问题，在动态推荐、多任务学习、跨域推荐、知识增强语言表达、知识图嵌入方法、用户辅助信息。这些方向还能进一步研究。