论文笔记：Distant Supervision for Relation Extraction via Piecewise Convolutional Neural Network

最新推荐文章于 2022-09-21 12:15:54 发布
最新推荐文章于 2022-09-21 12:15:54 发布
阅读量346 收藏 3
点赞数 1
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/sinat_38624959/article/details/88640497
版权
论文提出了一种基于多实例学习的分段CNN模型，用于解决远程监督中的错误标签和特征提取噪声问题。模型通过分段最大池化捕捉结构信息，并利用多实例学习处理未知实例标签，提高了关系抽取的准确性。
摘要由CSDN通过智能技术生成

提出使用多实例结合分段CNN进行关系抽取

主要内容：针对远程监督中利用启发式对其导致的错误标签以及特征提取过程中产生的噪音等两个问题，本文提出了一种基于多实例学习的分段CNN模型。该模型包括以下两部分：

  将远程监督关系抽取问题看作一个多实例问题，将不确定的实例标签纳入考虑
  采用分段最大池化的CNN来自动学习特征，避免使用复杂的特征工程

该论文主要分为以下几部分

一、引言

首先介绍了远程监督的概念以及提出的背景，然后发现该方法存在的两个缺点，其一是远程监督的假设太强进而导致易出现错误标签问题；其二为将使用远程监督获得的标注数据应用于特征工程时，由于NLP分析的不准确易导致错误的传播与累积。
因此引入本文提出的基于多实例学习的分段CNN模型
多实例：训练集由多个包组成，每个包包含许多实例。包的标签已知但包里的实例标签未知，将未知的实例标签纳入考虑
分段CNN：使用CNN进行特征学习时，将卷积结果根据两个实体的位置分为三部分，对每部分使用最大池化，然后返回每部分的最大值进行结合

主要贡献：
  1. 使用PCNN而不是人工设计的特征进行远程监督关系提取
  2. 将多实例学习融入到PCNN中来解决错误标签问题
  3. 设计分段最大池化来捕捉结构信息

最低0.47元/天 解锁文章
Dyii夫子呀
关注
PCNN模型解读：《Distant Supervision for Relation Extraction via Piecewise Convolutional Neural Networks》
qq_43496336的博客
02-23 1299
PCNN模型解读 本文是Daojian Zeng, Kang Liu, Yubo Chen and Jun Zhao的论文《Distant Supervision for Relation Extraction via Piecewise Convolutional Neural Networks》的简要解读。 Multi-instance problem 训练样本：bag bag：由多个instance组成，普通的训练任务中训练样本就是instance bag有label，这个label是对于整个bag
论文笔记：Distant Supervision for Relation Extraction via Piecewise Convolutional Neural Networks
xinxindiandeng9789的博客
03-24 3143
Distant Supervision for Relation Extraction via Piecewise Convolutional Neural Networks 论文笔记
Distant Supervision for Relation Extraction via Piecewise Convolutional Neural Networks 论文解读
热门推荐
herosunly的博客
06-16 1万+
1. 摘要   在关系抽取中使用远程监督会产生两大问题。第一，在远程监督中会将知识库和文本进行启发式对齐，然后启发式对齐可能会导致错误标注的数据。第二，在之前的方法中，统计模型通过特定的特征进行分类，但特定特征产生的噪声往往会导致较差的效果。   在本文中，提出了多示例学习和PCNNs来处理上述的两个问题。其中多示例学习解决了远程监督的噪声问题。后者是通过分段的CNN来自动学习特征。实验证明，我们...
论文学习笔记——Distant Supervision for Relation Extraction via Piecewise Convolutional Neural
qq_24879167的博客
06-16 388
一、研究背景 关系抽取可以被认为是一个多类的分类问题，并且可能由于缺乏用于训练的标记数据而受到影响。为了解决这个问题，可以使用Distant Supervision（远程监督）来给数据集快速打上标签，即如果我们训练语料中的句子所包含的实体对在数据库中有关系的体现，那么我们认为语料库中所有包含相同实体对的句子都表达此关系。 远程监督可以基于少量的标注语料自动的扩展出大量的标注数据。然而这样容易产生错...
【论文阅读笔记PCNN】Distant Supervision for Relation Extraction via Piecewise Convolutional Neural Networks
weixin_45684408的博客
08-01 1509
论文链接：http://aclweb.org/anthology/D/D15/D15-1203.pdf 论文模型：PCNN   这篇文章是Zeng在2014年CNN经典论文之后的有益著作，这篇论文提出PCNN方法，将卷积网络特征提取应用于远距离监督，而且还引入多示例学习方法。 1 摘要   文章开头就提出两个关于使用远距离监控进行关系抽取时会出现饿问题。首先，在这种方法中，启发式地将一个已经存在的知识库与文本对齐，并将对齐结果作为标记数据处理。然而，启发式对齐可能会失败，导致错误的标签问题。此外，在...
Distant Supervision for Relation Extraction via Piecewise Convolutional Neural Networks
dalangzhonghangxing的专栏
05-14 1856
主要贡献 提出使用PCNN来自动提取特征。 往PCNN中加入multi-instance learning，用来解决远程监督引发的错误标签问题。 提出分段进行max pooling，从而考虑两个Entity之间的结构特征。 作者提出，之前关于关系分类的方法主要分为2种： 1. 基于特征的方法，这种方式对人工特征向量的要求较高，需要为数据集找出一种合适的特征表示。 2. 基于kernel...
关于关系抽取（Relation Extraction）的三篇论文
m0_38031488的博客
04-21 9844
        关系抽取被广泛的应用于NLP领域的多个任务中，而远程监督方法的兴起为关系抽取添加了一把双刃剑。一方面远程监督可以基于少量的标注语料自动的扩展出大量的标注数据。另一方面，错误标签带来的大量无关噪声也为关系抽取的准确度带来了不小的挑战。        本文从三篇NLP顶级会议论文出发来分析解决这个问题。如图一所示，我们的挑战主要来自两个方面。首先如何将输入句子向量化的表示，采用何种算法...
python实体关系抽取_实体关系抽取 entity relation extraction 文献阅读总结
weixin_39533742的博客
12-04 761
出现的知乎的链接笔记部分是我写的，也有我的同学写的。知乎id: WhiteAndWhite(本人是北邮研究生，毕设的方向是实体关系抽取，在这里总结一下我看过的关于这个task的文献，肯定有很多错误，还请大家指出。知乎上有我实验室的专栏，我在上面会每隔三个礼拜发布一篇文章，一般都是关于本task的。本人才疏学浅，代码能力接近0，大家见笑了。)传统的关系抽取方法总结：基于句法解析增强的方法，Mille...
Achuan读论文：Distant Supervision for Relation Extraction via PiecewiseConvolutional Neural Networks
chuan_yunjian的博客
09-21 979
ACL 2015 Distant Supervision for Relation Extraction via PiecewiseConvolutional Neural Networks 论文翻译。
Distant Supervision
04-27
Two problems arise when using distant su- pervision for relation extraction. First, in this method, an already existing knowl- edge base is heuristically aligned to texts, and the alignment results are treated as la- beled data. However, the heuristic align- ment can fail, resulting in wrong label problem. In addition, in previous ap- proaches, statistical models have typically been applied to ad hoc features. The noise that originates from the feature extraction process can cause poor performance.
NYT（New York Times）Dataset for Distant Supervision Relation Extraction
03-20
我们提供NYT数据集，该数据集一共包含233081实体对，由FreeBase对齐，关系数量为57（如果使用53关系的可自行过滤多余的关系及句子）。
NLP——Distant Supervision for Relation Extraction via Piecewise Convolutional Neural Networks
bannuanma的博客
06-10 322
NLP——用卷积网络实现关系分类Distant Supervision for Relation Extraction via Piecewise Convolutional Neural Networks论文的研究点研究方法1.Vector Representation:2. Convolution：3. Piecewise Max Pooling：4. Softmax Output：4. ...
Distant Supervision for Relation Extraction via Piecewise Convolutional Neural Networks [论文研读]
Mr_WangYC的博客
02-23 675
《Distant Supervision for Relation Extraction via Piecewise Convolutional Neural Networks》是Zeng在2014年那篇经典论文之后的有益著作，这篇论文提出PCNN方法，将卷积网络特征提取应用于远距离监督，而且还引入多示例学习方法。 摘要 文章在摘要部分主要提出了两个问题，主要是在训练数据少的情况下，如何更...
Distant Supervision for Relation Extraction via Piecewise Convolutional Neural Networks论文笔记
super_dmz的博客
11-05 236
主要目标：提升关系抽取的准确率 创新点：为提取结构化特征使用piecewise convolutional neural networks,同时对由实体对划分的三部分句子进行特征提取，增加了分类准确性。且训练过程也有一定创新。 原文地址：https://www.aclweb.org/anthology/D15-1203.pdf 优秀的解析材料：https://www.jianshu.com/...
粗读Distant Supervision for Relation Extraction via Piecewise Convolutional Neural Networks（关系抽取）
wangwangstone的博客
06-16 517
关系抽取的论文粗读1 原文：www.emnlp2015.org/proceedings/EMNLP/pdf/EMNLP203.pdf 代码链接 https://github.com/ShomyLiu/pytorch-pcnn https://github.com/pencoa/PCNN what 背景：关系抽取是一类经典的 NLP 任务，也是构建高质量知识图谱的基础，针对关系抽取的研...
关系抽取远程监督PCNN：Distant Supervision for Relation Extraction via Piecewise Convolutional Neural Networks
xiaowopiaoling的博客
05-16 2718
Distant Supervision for Relation Extraction via Piecewise Convolutional Neural Networks0 前言1 模型架构2 多示例学习3 结语4 参考资料 0 前言 远程监督利用知识图谱的实体以及对应的关系对未标注文本进行回标，如果未标注文本中包含了一个知识图谱中具有某种关系的实体对，那么就假定这个文本也描述了相同的关系。通过这种标注策略虽然可以获得大量数据，但同时也会因为假设性太强而一如很多噪声数据（因为包含一个实体对的文本不一定描
distant supervision
最新发布
04-06
远程监督（distant supervision）是指使用外部信息源（比如知识图谱、数据库、文本挖掘等自然语言处理技术）自动标注大规模语料库。这种自动标注是通过对信息源的知识提取自动生成的，不需要人工分析师手动操作。...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值