TransR 论文笔记

- Abstract

TransE和TransH将实体和关系映射到同一语言空间。但是一个实体可能有多种关系。因此TransR就是将实体和关系放到不同的空间。

- Background

相似的实体在实体空间中距离很近，但是由于不同的实体会有许多的语言，因此在此方面，看似相似的两个实体其实差距很大。在特定的投影下，会将相似的实体投射在特定的关系空间中。在投射后，不同语义实体的距离将在关系空间中变大。

在分段线性回归的思想下，将头尾实体聚类成组，研究每组的关系向量，称其为CTransR。

- Algorithm

设定投影矩阵M，则的实体的投影为：

CTransR：
对每个关系下的头尾实体进行聚类，并为每一个类别分配一个向量来表示，以挖掘细粒度的关系语义。
其中，r是同一组的关系向量（通过TransE的(h-r)获得），rc和Mr是学习获得的，alph控制约束效果

打分函数：

损失函数：

- Experiment

投影矩阵初始化单位矩阵，使用SGD（随机梯度）
数据集的选择：

link prediction

It is obvious that by clustering we can learn more precise and fine-grained rela- tion embeddings, which can further help improve the perfor- mance of knowledge graph completion.

triplets classification

relational fact extraction

- Conclusion

1. 探索关系的相互关联;
2. 探索统一的文本端和知识图谱的嵌入模型;
3. CRTransR只是关系内部的初步探索