表示学习

one-hot

1.一个词汇表长度的向量
2.没个词的表示为【0,0,0,1,0,0,…,0】

特点(缺):默认了语义之间是无关的

分布式表示

1.对象表示为稠密、实值、低维向量
2.所有向量组成一个三维张量
3.通过向量在张量中的相对位置,体现词语之间的语义联系

特点(优):
1.解决了大数据环境中数据稀疏问题(用高频数据学习语义空间,从而利用该语义空间表达低维向量)
2.便于词、句子语义相似度计算
3.可以支持多任务学习(词性标注、命名实体识别等)

  1. word2vec
    优势:1.不用考虑词之间的顺序;2.取消神经网络非线性层,更高效
    3.利于发现词汇间隐藏关系4.对知识迁移的帮助(如将不同语言用分布式表示进行表示)
    优势1:
    在这里插入图片描述
    利用优点三发现词之间的上下位关系,启发了知识表示学习。

知识表示

和社交网络不同在于边上带有不同标签
连接预测常用来对表示学习的方法进行性能比较
transE
特点(和RESCAL\SME\SE等比较):学习参数少(高效);预测准确度高

知识表示应用

融合文本与知识进行关系抽取
1.1.利用CNN进行关系抽取(仅利用文本信息)
在这里插入图片描述
1.2.联合(通过表示学习)CNN和已有知识图谱进行分布式关系抽取(效果更好)
在这里插入图片描述
2.融合实体描述的表示学习
优点:新的实体只需要利用一小段的描述,和已有的kg进行关系预测加入进去

3,为kg的构建寻找最好的描述节点的句子等

利用关系路径进行关系抽取
在这里插入图片描述
1.PTransE
在这里插入图片描述
利用远程监督多实例进行关系抽取
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
推理:wanglichun等
开放关系抽取(open information extraction)[迭代抽取]

  • 3
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值