论文解读：面向时间感知链接预测的知识嵌入表示（Encoding Temporal Information for Time-Aware Link Prediction）

论文题目：面向时间感知预测的时间信息编码

摘要：

现有的知识库大多只从不包含时间信息的三元组中学习数值化嵌入方法，而忽略了知识库中的时间信息。在这篇文章中。提出了一种利用三元组发生时间的时间感知知识库嵌入方法。具体地说，本文使用时间约束来模拟时间敏感关系之间的转换，从而使嵌入具有时间一致性和准确性。本文通过链接预测和三元组分类来验证提出方法的有效性。实验结果表明，该方法在两种任务上均优于其他基准方法。

介绍：

知识库(KBs)，如Freebase (Bollacker et al.， 2008)和YAGO (Fabian et al.， 2007)，在许多NLP相关应用中发挥着关键作用。KB s（知识库）由三元组形式的事实组成(ei, r,ej)。表示该主要实体e;和尾部实体e;虽然KBs很大，但它们还远远不够完整。链接预测是基于已有的三元组s来预测实体之间的关系，可以缓解当前KBs的不完备性。最近有一种很有前景的方法，称为知识库嵌入(Nickel et al.， 2011;Bordes et al.， 2011: Socher et al.， 2013)旨在将实体和关系嵌入连续向量空间，同时保留知识库图的某些信息。TransE (Bordes et al.， 2013)是考虑关系向量为从头实体到尾实体翻译向量的典型模型，即ei + r ≈ ej，对于每个三元组 (ei, r, ej)。

现有的知识库嵌入方法大多只从无时间标记的事实中学习，而忽略了知识库中有用的时间信息。事实上，知识库中有许多时间事实(或事件)，例如(奥巴马，出生于，夏威夷)出生在1996年8月4日 ，(美国总统，奥巴马，2009）从2009年到2016年是正确的。 当前的KBs(如YAGO和Freebase)直接或间接地存储这些时间信息。时间感知事实的发生时间可以表示事实的特殊时间顺序和时间关系。例如，(爱因斯坦,出生于,Ulm)发生于1879年，(爱因斯坦，获奖，诺贝尔奖)发生于1922年，发生在1955年的(爱因斯坦，去世于，普林斯顿大学)。我们可以从所有这些事实中推断出时间敏感关系的时间顺序:wasBornIn→wonPrize→diedn。传统的知识库嵌入模型，如TransE，在预测(person， ?，location)原因时，往往混淆了wasBornln和diedln等关系，TransE只能从无时间标记的事实中学习，无法区分具有相似语义的关系。做出更准确的预测。对于现有的KB嵌入方法来说，时间信息是非常重要的。

本文主要结合时间序列信息，提出了一种时间感知链接预测模型。在事实三元组的基础上增加了一个新的时态定义。(ei,r, ej, tr)，表示发生在时间tr时的三元组事实，使嵌入空间在事实维度中，关系向量与观测到的三元组之间的平移行为类似于特朗斯模型。对于两两时间事实之间的不协调率时间顺序信息，我们假设先验时间敏感关系向量可以通过时间转换演化为后续时间敏感关系向量。例如，我们有两个共享同一头部实体的时间事实:(ei, ri, ej, t)和(ei, ri, ek, t2)以及时间顺序约束ti< t2，即。Tr;发生在ri之前，然后我们假设先验关系r;时间转换后应与后续关系ri接近，即r; mxri，这里矩阵M表示关系之间的时间顺序信息。这样，在学习过程中，语义信息和时间信息都被嵌入到一个连续的向量空间中。

本文是第一个考虑利用时间信息的KB嵌入方法。本文在公开数据集上评估论文方法，证明了本文的方法优于最先进的方法在时间感知链接预测和三元组分类任务。

本文方法：

传统的知识库嵌入方法只编码ob服务的事实三元组，而忽略了时间敏感实体和事实之间的时间约束。为了解决这个问题，我们引入了时间感知的知识库嵌入，它通过结合时间约束来约束任务。

为了考虑事件发生的时间，我们将时间顺序约束作为一个基于流形正则化的优化问题来考虑特别地，时间敏感事实中的关系的时间顺序应该影响知识库表示。如果