PTransE

TransE概述

表示学习
什么是表示学习呢?在自然语言处理中,常用的表示方式是1-hot Representation,每一个词都可以表示成一个非常长的向量,这个向量的长度就是词汇的数量,例如汉语常用词有6000个,我们就把每个词表示成6000维的向量。每个词对应的向量中有一维设置为1,其他维度设置为0,这样很自然地就把人类语言中的所有词都独一无二地表示成一个向量,这样计算机就可以很好的区分某个词跟另外一个词是不一样的。但是这种表示方法忽视了两个向量之间的语义关系。比如太阳和月亮,它们之间具有相关性,但是这种表示方法将它们表示成两个独立的向量。

表示学习的另一种思想是提出一种所谓的Distributed Representation,或者是Embedding,用一个低维的向量空间,把每个词都表示到空间里面的某一个位置。这样,我们就可以利用词和词之间在这个空间中的距离来衡量词与词之间的语义关系,这就是表示学习的基本目标。

TransE
TransE采用的是表示学习中的Distributed Representation方法。
在TransE中,将每个实体和关系都表示成低维向量,给定任何一个三元组,都将中间的relation看成是从head到tail的一个翻译过程,也就是说把head的向量加上relation的向量,要让它尽可能地等于tail向量(head+relation=tail)。在学习过程中,通过不断调整、更新实体和关系向量的取值,使这些等式尽可能实现,并且通过对每个三元组替换头结点或尾结点来添加负例元组,使负例元组的head的向量加上relation的向量,使其尽可能的远离tail向量。

一条知识图谱可以表示为一个三元组(head,rel,tail)。比如:小明的爸爸是大明,表示成三元组是(小明,爸爸,大明)。前者是主体,中间是关系,后者是客体。通过TransE模型,我们可以把三元组用向量来表示,通过训练模型,使h+r=t。
进行模型训练之后,任给两个关系,假如它们形成一个路径的话,我们可以得到这个路径对应的关系,比如说某个关系路径是:”出生地点”和“地点所在国家”,通过模型可以推测出这个路径对应着关系“国籍”。

PTransE概述

推理方法

  • 4
    点赞
  • 32
    收藏
    觉得还不错? 一键收藏
  • 22
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 22
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值