实体消岐和实体统一

实体消歧
定义:
实体消歧的本质在于一个单词很可能有多个意思,也就是在不同的上下文中所表达的含义可能不太一样。

简单实现
首先我们需要准备一个类似于下面的这种实体库:

id实体名实体描述
1001苹果美国一家高科技公司,经典的产品有Iphone手机
1002苹果水果的一种,一般产自于…

然后当我们拿到Text时,比如“今天苹果发布了新的手机”
我们可以将实体库中的实体描述,全部转换为向量,例如:
“美国一家高科技公司,经典的产品有Iphone手机”转换为向量 V 1 V_1 V1
“水果的一种,一般产自于…”转换为向量 V 2 V_2 V2

然后将“今天苹果发布了新的手机”中“苹果”的上下文“今天,发布了新的手机”转换为向量 V t V_t Vt
我们只要将 V t V_t Vt分别与 V 1 V_1 V1 V 2 V_2 V2计算相似度,然后对比sim( V t V_t Vt, V 1 V_1 V1)和sim( V t V_t Vt, V 2 V_2 V2)
相似度高的,我们则将其看作“苹果”的真实语义。

注意:如果Text过长可以取实体的前10个和后10个组成向量,如果标准库过长也可以如此处理

实体统一
定义:
给定俩个实体,判断是不是同一个实体?
实际上是一个0-1的问题,二分类问题
简单方法
方法一:基于相似度的方法,给定俩个实体(如果实体较长),俩个实体都是字符串,计算相似度(使用编辑距离),利用阈值判断是否是同一个实体。
方法二:基于规则的方法,stemming的方法提取原型(提前维护好一个实体描述库)

公司原型
百度科技有限公司百度
百度有限公司百度
百度广州分公司百度
stemming规则动作
有限公司删除
分公司删除
北京删除
广州删除

方法三:基于知识图谱的实体统一
提取实体的自身特征信息和一度关系等,concat成向量进行相似度计算。
原文链接:https://blog.csdn.net/lt326030434/article/details/88058739

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值