知识表示（KRL）与知识嵌入（KE）

以下整理内容来自于清华大学自然语言处理与社会人文计算实验室（THUNLP），
1简介
知识表示学习是面向知识库中实体和关系的表示学习。通过将实体或关系投影到低维向量空间，我们能够实现对实体和关系的语义信息表示，可以高效的计算实体、关系及其之间的复杂语义关联。
知识表示学习得到的向量表示可以应用于相似度计算，知识图谱补全以及关系抽取、自动问答等其他应用中。
2 TransE
刘知远教授在2016年发表的《知识表示学习研究进展》中，综述了距离模型、单层神经网络模型、能量模型、双线性模型、张量神经网络模型、矩阵分解模型、翻译模型这七个模型的内容。其中翻译模型中，2013年由Bordes提出的TransE模型，近几年在业界备受追捧。下面整理了一下有关该模型的资料。
TransE模型，将知识库中的关系看作实体间的某种平移向量。对于每个三元组（h,r,t），TransE用关系r的向量lr作为头实体向量lh和尾实体向量lt之间的平移。我们也可以将lr看作从lh到lt的翻译，因此TransE也被称为翻译模型。损失函数如下

3 TransH
TransH,是在TransE基础上提出的，旨在通过使用平移向量lr和超平面法向量wr来表示关系的方式，解决1-N、N-1、N-N的复杂关系表示问题。下面是TransH的损失函数与几何解释。需要注意的是在计算时一定将wr长度标准化为1。

4 TransR
尽管TransH解决了复杂关系表示问题，但该模型还是将关系与实体的表示放在同一语义空间下，这一定程度上限制了向量表示能力。TransR则认为一个实体是多种属性的综合体，不同关系关注实体的不同属性。TransR认为不同的关系拥有不同的语义空间，对每个三元组首先应将实体投影到对应的关系空间中，然后再建立从头到尾实体的翻译关系。
具体而言，对于每一个关系r，TransR定义投影矩阵Mr，将实体向量从实体空间投影到关系空间，如下图，在关系空间中与头尾实体相似的实体将被分离开来。

之后还有TransD、TranSparse、TransG均是TransE基础上的延申，在这不一一列举。由此可见TransE在知识表示界的重要性。

5实现框架OpenKE
OpenKE，THUNLP基于TensorFlow、PyTorch开发的用于将知识图谱嵌入到低维连续向量空间进行表示的开源框架。在OpenKE中，我们提供了快速且稳定的各类接口，也实现了诸多经典的知识表示学习模型。参考中有OpenKE官方地址