WSDM 2024 Oral | 港大提出DiffKG：融合知识图谱与扩散模型，为推荐系统赋能

论文链接：

https://arxiv.org/abs/2312.16890

代码链接：

https://github.com/HKUDS/DiffKG

实验室链接：

https://sites.google.com/view/chaoh

TLDR

知识图谱已成为提升推荐系统性能的重要资源，能提供丰富的事实信息并揭示实体间的深层语义联系。然而，并非图谱中的每一种关系都与推荐任务息息相关。事实上，一些无关的实体关系可能掺杂噪音，干扰系统对用户偏好的精准学习。

针对这一挑战，研究者们提出了 DiffKG——一种创新的知识图谱扩散模型，专为推荐系统设计。该模型巧妙地融合了生成式扩散模型和数据增强策略，有效地促进了知识图谱表示的稳健学习。这种独特的融合方式极大地优化了物品的知识感知语义及其内在的协同关系建模。此外，研究者引入了一种创新的协同知识图卷积机制，该机制能够利用用户与物品交互模式中的协同信号，有指导地促进知识图谱的有效扩散。

研究背景

在当今信息爆炸的时代背景下，推荐系统在现代网络社会扮演了极其重要的角色，有效地连接了用户与符合其个性化兴趣的物品。其中，协同过滤（Collaborative Filtering, CF）作为推荐系统的核心范式之一，基于一个核心假设：具有相似交互模式的用户可能对物品有相近的偏好。这种方法已广受关注，并已被证明在提供个性化推荐方面非常有效。

在现实应用中，推荐系统的表现往往受限于用户-物品交互数据的固有稀疏性。为了克服这一难题，将知识图谱（Knowledge Graph, KG）作为一种丰富的物品信息网络，纳入协同过滤已逐渐成为行业内的新趋势。

尽管基于知识图谱的推荐方法已展示出其有效性，但这些方法的性能极度依赖于输入的知识图谱质量，并可能受到噪音污染的负面影响。现实中的知识图谱常受限于其固有的稀疏性和噪音问题，包括长尾实体分布和大量与推荐任务无关的实体关系。

为应对这些挑战，最新研究开始探索利用对比学习（Contrastive Learning, CL）来增强基于知识图谱的推荐方法。例如，KGCL [1] 提出了一种在知识图谱上进行随机图增强的方法，并采用对比学习策略来解决知识图谱的长尾分布问题。同理，MCCLK [2] 和 KGIC [3] 方法采用了跨视图对比学习范式，该范式致力于将外部的物品知识与用户-物品交互模式整合，以更好地建模交互。

但这些方法主要依赖于简单的随机增强或是直观的跨视图信息传递，并未充分考虑到知识图谱中大量与特定推荐任务不相关的信息。因此，有效地筛选知识图谱中的噪声，对于实现更健壮的用户偏好建模至关重要。

为解决上述问题，本研究提出了 DiffKG，一种创新的知识图谱扩散模型，专门用于提升推荐系统性能。受到最新扩散模型研究的启发，该模型采用了一种独特的知识图谱扩散范式，有效实现了破坏与重构的平衡。

在模型的前向过程中，原始知识图谱逐步被引入的随机噪声破坏，模拟了知识图谱在现实世界中逐渐累积噪声的过程，并通过迭代恢复机制来还原图谱结构。这一创新的前向过程构建了一个可靠的后验分布，并通过反向生成的神经网络模型来迭代地建模复杂分布。

为了有效应对知识图谱中的噪声和无关信息，本研究还设计了一种协同知识图谱卷积机制，该机制通过整合用户-物品交互中的协同信号到知识图谱的扩散过程，进一步强化了知识图谱扩散范式。这种机制能够引导扩散过程，确保保留与推荐任务紧密相关的知识，从而帮助扩散模型更准确地识别和利用有价值的信息。

模型方法

DiffKG 的架构在下图中展示，它整合了三大关键模块：首先是异构知识聚合模块，其目的是汇聚知识图谱中的