Robust Distant Supervision Relation Extraction via Deep Reinforcement Learning读书笔记

最新推荐文章于 2022-09-19 16:07:51 发布
最新推荐文章于 2022-09-19 16:07:51 发布
阅读量768 收藏
点赞数 1
分类专栏： NLP
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/sjh18813050566/article/details/86682141
版权

发表于ACL2018

远程监督是关系抽取任务中常用的做法，但存在一个非常明显的问题，就是数据噪音问题。以往方法或者从所有远程监督句子中选取一个打分最高的作为正例，但这样会损失很多信息；或者使用软对齐的方法，通过加注意力机制，但是消除噪音的效果并不完全，且在极端情况（所有句子都是负例）的时候无效。本文认为硬对齐才是更好的消除噪音的方法，采用强化学习对每个句子做决策：留在正例集合中还是换到负例集合中。reward定义为调整后数据集上分类器的F1值的增幅。

由于每次reward只有在全部决策后才能得到，policy-based RL比value-based 更合适。

使用监督训练初始化，大大减少训练时间，即根据原数据集的正负例训练agent。

每次设定最多删去句子的上限。

 

notes：

    reward的设计：相邻两次F1的差，以及仅在相邻两次不一样的action上计算梯度

 

「已注销」
关注
  • 1
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
Learning to Reweight Examples for Robust Deep Learning.pdf
05-20
Learning to Reweight Examples for Robust Deep Learning
Robust Distant Supervision Relation Extraction via Deep Reinforcement Learning
nopSled
09-27 663
摘要 远程监督已成为关系抽取中的标准方法。然而，即使它是一种有效的方法，它也不是没有任何代价的 - 由此产生的远程监督的训练样本通常有非常多的噪声。为了对抗噪声，大多数最近的现有技术方法都集中于选择一个最佳句子或计算一个特定实体对在句子集合上的注意力权重。然而，这些方法并不是最理想的，假阳性问题仍然是性能的关键瓶颈。我们认为那些错误标记的候选句子必须用一个确定性的决策来对待，而不是使用注意力权重去...
TransFER: Learning Relation-aware Facial Expression Representations with Transformers--2021.Fanglei
xu.hyj
09-19 1738
CNN在提取特征时，通过随机丢弃推动模型去学习更多不同地特征（类似不把鸡蛋放同一个篮子里），这样在脸部转动或不同类别间，能够找到更多更有区分度地特征，帮助更好分类。 CNN提取的多种特征，需要更好的联系起来才能完成分类，本文借鉴Transformer的强大全局注意力能力，探索CNN提取的不同局部特征间的关系，从而实现更好的分类。 注意：无论是CNN探索更多局部特征，还是Transformer中探索更多局部特征间的联系，都是使用了dropping思想，打破明显的、固有的特征和联系，从而推动学习更多特征和联系。
【paper笔记】Robust Distant Supervision Relation Extraction via Deep Reinforcement Learning-P18-1199-ACL
知吾朱期应庆的博客
01-15 1645
Abstract 远程监督定义： 定义：只要包含两个Entity的句子，都在描述同一种关系。 用途：主要用来为关系分类任务扩充数据集。 优点：能够很快速地为数据集打上标签 缺点：它假设只要包含两个Entity的句子，都在描述同一种关系，这个假设会产生很多地错误标签。可能这两个Entity这是与某个主题有关。 因此往往还需要用一些过滤的方法去筛选出对关系分类有用的句子，比如sentence-le...
【paper笔记】Large Scaled Relation Extraction with Reinforcement Learning-AAAI2018
知吾朱期应庆的博客
01-15 939
Large Scaled Relation Extraction with Reinforcement Learning 概述 为了解决远程监督中噪声数据的问题，使用强化学习 bag-level的训练 对于每个bag，根据bag里的抽取的每个句子的关系来确定bag所表示的关系，然后进行强化学习训练，从而提高性能 进行两种不同规模的实验，证明可以提高关系抽取器的性能 1.问题 1.1 大纲 为...
Distant Supervision for Relation Extraction via Piecewise Convolutional Neural Networks
dalangzhonghangxing的专栏
05-14 1847
主要贡献 提出使用PCNN来自动提取特征。 往PCNN中加入multi-instance learning，用来解决远程监督引发的错误标签问题。 提出分段进行max pooling，从而考虑两个Entity之间的结构特征。 作者提出，之前关于关系分类的方法主要分为2种： 1. 基于特征的方法，这种方式对人工特征向量的要求较高，需要为数据集找出一种合适的特征表示。 2. 基于kernel...
Sparse Alignment for Robust Tensor Learning
02-09
Multilinear/tensor extensions of manifold learning based algorithms have been widely used in computer vision and pattern recognition. This paper first provides a systematic analysis of the multilinear...
IE598NH-lecture-24-Stochastic Optimization for Reinforcement Learning.pdf
11-17
在强化学习（Reinforcement Learning, RL）领域，随机优化起着至关重要的作用。这篇名为“IE598NH-lecture-24-Stochastic Optimization for Reinforcement Learning”的文献由Gao Tang和Zihao Yang撰写，主要探讨了...
[EMNLP2015]Distant supervision for Relation Extraction via Piecewise Convolutional Neural Networks
Deep Learning and NLP Farm
01-04 2537
paper中提高两个概念： (1)distant supervision: 如果两个实体在已知知识库中有关系，则包含这两个实体的中，两个实体的的关系默认就是知识库中给定的关系, 因为人工标注语料代价大，所以一般用distant supervision标注语料 (2)multi-instance learning:训练语料是很多带有正负标签的包，每个包里有很多示例，如果一个包里包含至少一个示例是
论文浅尝 | Reinforcement Learning for Relation Classification
开放知识图谱
12-10 2226
论文链接：http://aihuang.org/p/papers/AAAI2018Denoising.pdf来源：AAAI 2018 MotivationDistant Supervision 是一种常用的生成关系分类训练样本的方法，它通过将知识库与非结构化文本对齐来自动构建大量训练样本，减少模型对人工标注数据的依赖。但是这样标注出的数据会有很多噪音，例如，如果Obama和United State
[论文阅读笔记52]深度学习实体关系抽取研究综述
ld326的专栏
08-10 1479
来源：软件学报 2019 1.摘要： 围绕有监督和远程监督两个领域,系统总结了近几年来中外学者基于深度学习的实体关系 抽取研究进展,并对未来可能的研究方向进行了探讨和展望. 2.经典的实体关系抽取方法 有监督[基于特征和基于核函数的方法,研究词汇、句法和语义特征对实体语义关系抽取的影响]、半监督、弱监督和无监督 3.定义 实体关系抽取：是指在实体识别的基础上,从非结构化文本中抽取出预先定义的 实体关系.—这里研究的时关系抽取，不讨论实体抽取.“实体关系抽取”这里不理解为“实体抽取与关系抽取”。 基于深度学习
【NLP】_02_NLP经典任务
DamonDT
02-17 339
【一】NER（命名实体识别）   ORG（组织），LOC（地点），PER（人物）   常用方法（原文链接：https://blog.csdn.net/weixin_37665090/article/details/89454829） LSTM 的优点是能够通过双向的设置学习到观测序列（输入的单词）之间的依赖，在训练过程中，LSTM 能够根据目标（比如识别实体）自动提取...
ACL 2018 ACCEPTED PAPER
热门推荐
AI小白入门的博客
10-04 1万+
ACL 2018接受了258篇长论文和126篇短论文，总体接受率为24.9％。 论文官方地址：https://acl2018.org/programme/papers/ 详细如下： Long Papers A Framework for Representing Language Acquisition in a Population Setting. Jordan Kodner, Christo...
【Part two: Related Work】Relation Extraction with Distant Supervision(DS)
yywang_hit的博客
03-21 1217
Mintz, M.; Bills, S.; Snow, R.; and Jurafsky, D. 2009. Distant supervision for relation  extraction without labeled data.In Proceedings of ACL, 1003–1011.1)Applying the DS method to RE task for the fi...
自然语言处理——信息抽取——远程监督关系抽取
Wangpeiyi9979的博客
02-22 2782
前言: 从小到大一直没有做笔记的习惯, 不过成绩一直还算好, 所以从不重视, 考试就是抱着一本书从头看到尾,感觉这样心里也踏实. 不过前段时间跟着学长开始进行科研, 读了好多关于关系抽取的文章，后来发现不做笔记确实力不从心了. 第二次又要画大量时间重读. 现在关系抽取告一段落, 特地对读过的文章整理总结，也算告别过去，踏上新的征程. 文章目录基本介绍问题定义问题运用分类^[http://sho...
关系抽取论文总结（relation extraction）不断更新
u010960155的博客
08-04 8001
2000 1.Miller, Scott, et al. "A novel use of statistical parsing to extract information from text."1st Meeting of the North American Chapter of the Association for Computational Linguistics. 2000.被...
论文笔记（9）：Large Scaled Relation Extraction with Reinforcement Learning
腾云
07-15 2284
论文笔记：Large Scaled Relation Extraction with Reinforcement Learning 一、解决的问题 远程监督数据集中的句子并不直接标记，并且并非所有提及实体对的句子都可以表示它们之间的关系。例如， [Obama]e1[Obama]e1[Obama]_{e_1} was born in the United [States]e2...
Closed-loop Rescheduling using Deep Reinforcement Learning
最新发布
05-12
Closed-loop rescheduling using deep reinforcement learning is an approach to optimize scheduling decisions in a dynamic environment. In this approach, a deep reinforcement learning model is trained to make rescheduling decisions based on the current state of the system, such as machine status, job priority, and resource availability. The model then uses the feedback from the actual execution of the rescheduling decision to update its policy and improve its performance. The closed-loop aspect of this approach means that the model is constantly learning and adapting to changes in the system, making it more robust and able to handle unforeseen events. This approach has been applied in various domains, such as manufacturing, logistics, and transportation, where scheduling decisions need to be made in real-time. One of the advantages of using deep reinforcement learning for closed-loop rescheduling is that it can handle complex and dynamic environments, where traditional optimization techniques may not be effective. Additionally, the use of reinforcement learning allows the model to learn from experience and improve its performance over time. Overall, closed-loop rescheduling using deep reinforcement learning is a promising approach for optimizing scheduling decisions in dynamic environments, and has the potential to improve efficiency and reduce costs in various industries.

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值