1.TransE(2013 NIPS)
论文题目:Translating Embeddings for Modeling Multi-relational Data
基本思想:trans系列的开端,模型思想也非常简单,即对于真的三元组让前件的向量表示(h)+关系的向量表示(r)≈后件的向量表示(t);对于假的三元组,让h+r尽量远离t
损失函数:
其中d(h+r,t)采用L1-norm或L2-norm
缺点:由于某一个实体或者关系的embedding是确定的,所以在复杂关系中会导致歧义。例如(Obama,PresidentOf,America)(Trump,PresidentOf,America) 根据h+r≈t,则有Obama=Trump
2.TransH(2014 AAAI)
论文题目:Knowledge Gragh Embedding by Translating on Hyperplanes
论文背景:为了解决TransE在复杂关系(1-N,N-1,N-N)中的问题,提出TransH
基本思想:该模型将关系建模成一个超平面(Hyperplane)Wr和一个向量r,只需要前件向量h在Wr上的映射向量h'与关系向量r的和约等于后件向量t在Wr上的映射向量t',即h'+r≈t'。由于在计算时使用了h和t的一个分量,因此避免了TransE模型在处理复杂关系时将两个实体收敛到过于接近的情况。