DKN: Deep Knowledge-Aware Network for News Recommendation

“DKN: Deep Knowledge-Aware Network for News Recommendation” DKN：用于新闻推荐的深度知识感知网络

• Abstract

  DKN是一个基于内容的深度推荐框架，用于预测点击率。DKN的关键组成部分是一个多渠道和词实体对齐的知识感知卷积神经网络（KCNN），它融合了新闻的语义层面和知识层面的表示。

  此外，为了解决用户的不同兴趣，我们还在DKN中设计了一个关注模块，动态地汇总用户对当前候选新闻的历史记录。

• Introduction

  新闻推荐的困难

  首先，与电影[9]和餐馆[12]等其他项目不同，新闻文章具有高度的时间敏感性，其相关性在短时间内迅速消失（见5.1节）过时的新闻经常被较新的新闻所取代，这使得传统的基于ID的方法，如协作过滤（CF）[41]不那么有效。

  其次，人们在阅读新闻时对话题敏感，因为他们通常对多个特定的新闻类别感兴趣（见第5.5节）。

  第三，新闻语言通常是高度浓缩的，是由大量的知识实体和常识组成的

知识图谱是一种有向异构图，其中节点对应实体，边对应关系。

DKN是一个基于内容的点击率（CTR）预测模型，它将一条候选新闻和一个用户的点击历史作为输入，并输出用户点击该新闻的概率。

具体来说，对于一段输入的新闻，我们首先通过将新闻内容中的每个词与知识图谱中的相关实体联系起来来丰富其信息。

区别于现有的工作[46]，KCNN是：1）多通道，因为它将新闻的单词嵌入、实体嵌入和上下文实体嵌入视为多个堆叠通道，就像彩色图像一样。2）词-实体对齐，因为它在多个通道中对齐一个词和其相关的实体，并应用一个变换函数来消除词嵌入和实体嵌入空间的异质性。

• PRELIMINARIES

  在这一节中，我们介绍了与这项工作有关的几个概念和模型，包括知识图谱嵌入和卷积神经网络的句子表示学习。

  知识图谱嵌入的目标是为每个实体和关系学习一个低维表示向量，保留原始知识图谱的结构信息。

• PROBLEM FORMULATION

  对于在线新闻平台中的某个用户i来说，我们把他的点击历史表示为$ti1,ti2,...,tiNi$,每个新闻标题t由一连串的词组成，即t = [w 1 ,w 2 , …] ,其中，每个词w可能与知识图谱中的实体e相关。

  考虑到用户的点击历史以及新闻标题中的单词和知识图谱中的实体之间的联系，我们旨在预测用户i是否会点击他之前没有看到的候选新闻t j。

• DEEP KNOWLEDGE-AWARE NETWORK

  在本节中，我们将详细介绍所提出的DKN模型。我们首先介绍了DKN的整体框架，然后分别讨论了从知识图谱中提炼知识的过程，知识感知卷积神经网络（KCNN）的设计，以及基于注意力的用户兴趣提取。

  • DKN框架

  

  *   知识提取
  
      图4说明了知识提炼的过程，它包括四个步骤
  

  

      首先，为了区分新闻内容中的知识实体，我们利用实体链接技术\[31,36]，通过将文本中的提及与知识图谱中的预定义实体联系起来，来消除歧义。基于这些被识别的实体，我们构建一个子图，并从原始知识图中提取它们之间的所有关系链接。需要注意的是，仅有识别的实体之间的关系可能是稀疏的，缺乏多样性。因此，我们将知识子图谱扩展到已识别的实体的一跳之内的所有实体。
  
  *   知识感知的CNN
  
      1）卷积策略打破了词和相关实体之间的联系，并且不知道它们的对齐情况。2) 词嵌入和实体嵌入是通过不同的方法学习的，这意味着不适合在一个单一的向量空间中将它们卷积在一起。3）连接策略隐含地迫使词嵌入和实体嵌入具有相同的维度，这在实际设置中可能不是最佳的，因为词和实体嵌入的最佳维度可能彼此不同。
  
  *   Attention-based User Interest Extraction