1.距离模型
距离模型,又叫SE(structured embedding)模型,是结构化嵌入的典型代表。该模型的主要思想是:通过关系r的两个投影矩阵分别将头实体向量和尾实体向量投影到r的表示空间中,然后在这个投影空间里计算头实体和尾实体的距离。得分越小,说明头实体和尾实体在该关系空间中的距离越小,也就说明这对实体存在这种关系的可能性越大。
然而,该模型有一个明显缺陷:在同一个三元组中采用不同的关系矩阵投影头、尾实体,导致映射后的头实体与尾实体协同性差。
2.单层神经网络模型
单层神经网络模型在知识图谱嵌入研究中引入神经网络,也称之为SLM(single layer model)模型。该模型在SE模型基础上加了非线性操作,将关系矩阵映射后的头、尾实体连接起来。
虽然SLM模型通过非线性操作将头、尾实体语义联系起来,但模型使用的非线性操作只能够刻画两个实体与关系之间微弱的语义关系。
3.能量模型
能量模型(semantic matching energy, SME)是一种基于语义匹配的嵌入模型。在SME中,它仅将每个关系表示为k维向量,同时每个实体也都用低维向量表示,其向量维度为d。更加具体地,关系向量通过多个线性变换与实体向量进行交互,所有线性变换均由相同的参数进行参数化。