EMNLP-20-Named Entity Recognition for Social Media Texts with Semantic Augmentation-token级别语义增强

已于 2022-09-10 11:01:19 修改
阅读量273 收藏
点赞数
分类专栏： EMNLP 论文记录 文章标签： 实体识别
于 2022-09-10 10:57:33 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Hekena/article/details/126794754
版权

模型分为两个部分，左侧是标准的tag NER机制，但中间gate module融合了外部信息，具体是，针对句子中的每个token，根据token的embedding的相似度计算，找到最相近的前k个，然后，做注意力计算，加权得到相应的表示，在和原来的context 的embedding组合形成最终用于CRF的hidden state。

我们首先根据它们预先训练的嵌入来提取令牌中最相似的词。然后，增强模块使用注意机制对提取的单词所携带的语义信息进行加权。之后，利用加权语义信息通过门模块增强主干模型
用到的技术or技巧：gate 机制；extractor是如何实现的？？
在这里插入图片描述

YingJingh
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
token和语义的gap
浪漫韫秋
07-15 152
Rethinking LLM是一个新的系列，用来记录一些我关于LLM的一些本质问题的思考。Rethinking是AL/ML领域论文的一个黑话，可以简单理解为标题含有Rethinking的文章一般是对一些本质的问题的深入思考。虽然我是尽量以之前的科普文风来进行阐述的，但是说实话这类的主题就是没有办法让很多没有琢磨过LLM的读者看懂的。某种意义上真的是"姜太公钓鱼，愿者上钩"，希望这一类的文章能够找到能看懂它并且产生共鸣的读者。
EMNLP2020中事件抽取/关系抽取/NER/少样本/MRC/摘要 论文分类整理
carrie_0307的博客
10-15 4007
事件抽取 主会 A Method for Building a Commonsense Inference Dataset based on Basic Events Affective Event Classification with Discourse-enhanced Self-training Biomedical Event Extraction as Sequence Labeling Connecting the Dots: Event Graph Schema Induct
CCF A类会议或期刊----多视图，多模态近两年论文
Thincor的博客
03-15 6186
会议/期刊 论文 neurips2020 Removing Bias in Multi-modal Classifiers: Regularization by Maximizing Functional Entropies. neurips2020 Labelling unlabelled videos from scratch with multi-modal self-supervision. neurips2020 A Contour Stochastic Gradient ....
EMNLP2020信息抽取论文
Hekena的博客
09-10 601
版权声明：本文为CSDN博主「御风而行Carrie」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。原文链接：https://blog.csdn.net/carrie_0307/article/details/109066049。
一种面向社交媒体文本中命名实体识别方法
u012032041的博客
02-20 771
#1 前言 在微博、Twitter之类的社交媒体上，用户产生的大量短文本中包含各种类型的实体，这类实体的识别难度更大，因为有些实体的书写并不符合正常的语法习惯，如被用户随心缩写，导致这类实体出现的概率很小，呈现稀疏性。针对以上问题，本文介绍一种最新的识别模型，核心思想是提出语义扩充的方式来增强命名实体的识别效果，该模型发表在2020年EMNLP会议上，题目为：《Named Entity Recognition for Social Media Texts with Semantic Augmentation
Raki的读paper小记：Soft Gazetteers for Low-Resource Named Entity Recognition
Raki_J的博客
02-13 508
Abstract & Introduction & Related Work 研究任务 低资源的命名实体识别 已有方法和相关工作 将基于语篇标签、词形和手动创建的实体列表（称为地名索引）的语言学特征整合到神经模型中会导致 在英语数据上实现更好的NER 面临挑战 但直接将地名词典特征整合到这些模型中是很困难的，因为这些语言的地名词典要么覆盖范围有限，要么完全没有。由于缺乏可用的低资源语言的注释者，扩展它们既费时又费钱。 创新思路 引入了soft-gazetteers，一种基于高
2007-EMNLP-CoNLL-Large-scale named entity disambiguation based on Wikipedia data
01-19
2007-EMNLP-CoNLL-Large-scale named entity disambiguation based on Wikipedia data
Corpus Dataset for Medical Entity Linking in the Social Media-数据集
03-19
COMETA is a corpus for medical entity linking in the social media. It is published in EMNLP 2020. corpus.png COMETA paper.pdf
similarity-tutorial:EMNLP-2015语义相似性教程的文档和材料的集合
05-06
近年来，人们对开发新的相似性技术重新产生了兴趣，这在一定程度上受到嵌入工作以及语义文本相似性和跨级别语义相似性中的SemEval任务的鼓舞。 日益增长的兴趣导致了数百种用于测量语义相似性的技术，这使得从业...
hosrl:EMNLP-2020论文代码“高阶语义角色标签”
03-16
《高阶语义角色标签（HO-SRL）：EMNLP-2020论文代码解析》 在自然语言处理领域，语义角色标注（SRL）是一项基础且关键的任务，它旨在识别句子中动词所涉及的角色及其对应实体。传统SRL系统主要关注基本的论元结构，...
BREDS：“具有分布语义的自举关系提取器”（Batista等人，2015年）-EMNLP'15论文的代码
02-03
具有分布语义的自举关系提取 BREDS是一种依赖词向量表示（即词嵌入）的关系提取自举系统。 有关更多详细信息，请参阅： David S Batista，Bruno Martins和MárioJ Silva。 ， 。 在自然语言处理的经验方法中。 ACL...
Named Entity Recognition for Chinese Social Media with Jointly Trained Embeddings
咖乐部
11-22 408
Named Entity Recognition for Chinese Social Mediawith Jointly Trained Embeddings 一、研究对象：中文社交媒体信息的命名实体识别。命名实体识别是一个非常重要的组成部分，是关系抽取和实体联系的第一步 二、对象特点： 三、问题描述： 1.NER for Chinese Social Media：和其他语言一样，社交媒体信息对于命名实体识别存在很多问题，例如贫血错误，新颖词汇，没有语法结构。而汉语存在更多的挑战。1.缺少一个此.
Improving Named Entity Recognition for Chinese Social Media with Word Segmentation 阅读笔记
sendoh的博客
03-06 644
文章目录Improving Named Entity Recognition for Chinese Social Media with Word Segmentation Representation Learning(利用分词表示学习改进中文社交媒体命名实体识别)AbstractIntroductionModelParameter EstimationExperiments and AnalysisDiscussion Improving Named Entity Recognition for Chi
Improving Named Entity Recognition for Chinese Social Media with Word Segmentation Representation Le
YW_Vine的博客
06-01 608
简介 文章主要贡献将训练分词的模型(单向LSTM-CRF)与NER的训练合并来试图提高NER模型的性能。 论文地址: https://arxiv.org/pdf/1603.00786.pdf 代码gitlab地址: https://github.com/hltcoe/golden-horse 模型结构 模型的总体结构如下： 左边是中文分词的模型结构(LSTM+CRF)，右边是NER的模型结构，NER模型的CRF前面的最后一层主要使用了三个特征： 字符的词性embedding 字符的embedding，即
【论文笔记】SGUIE-Net
weixin_44919639的博客
11-28 568
由于波长相关的光的衰减、折射和散射，水下图像通常会产生颜色失真和细节模糊。然而，由于以未失真图像为参考的成对水下图像数量有限，训练不同退化类型的深度增强模型相当困难。为了提高数据驱动方法的性能，必须建立更有效的学习机制，从有限的训练样本资源中挖掘更丰富的监督信息。在本文中，我们提出了一种新的水下图像增强网络SGUIENet，该网络通过区域增强特征学习引入语义信息作为高级指导。因此，我们提出了语义区域增强模块，以更好地学习具有多尺度感知的语义区域的局部增强特征。
让我们一起来找茬 - 首个图像变化多模态大模型
最新发布
我爱计算机视觉
11-01 285
关注公众号，发现CV技术之美本文转自知乎位作者投稿，作者：jianlong.yuan。原链接：https://zhuanlan.zhihu.com/p/656917825。本篇论文Viewpoint Integration and Registration with Vision Language Foundation Model for Image Change Understanding提出一...
Named Entity Recognition for Chinese Social Media with Jointly Trained Embedding 笔记
qq_43708647的博客
03-29 337
摘要 中文NER主要针对正式文本，对于社交媒体的NER主要在英语上，本文标注了一个新的微博数据集，标注有名称和一些名词性提及 1.介绍 一个中文NER 传统是利用lexical embedding来提高NER性能，然而不像其他语言，我们不能使用自动分词来为中文单词赋值一个Embedding,这是不可信的，所以中文NER model都tag word 2.NER for Chinese Social Media 社交媒体的不正式性很明显对NLP系统造成了重大的困难，例如拼写错误，新颖的词以及非语法构造。中文也
Incorporating Dynamic Semantics into Pre-Trained Language Model for ABSA 论文阅读笔记
We choose to go to the moon in this decade and do the other things, not because they are easy, but beacase they are hard.
12-23 749
Incorporating Dynamic Semantics into Pre-Trained Language Model for ABSA 论文阅读笔记
SFEM模块结构化特征增强模块
weixin_44929101的博客
11-28 3737
前言 前段时间看到这个SFEM模块，首先这个模块的出处是一篇论文，关于人流密度监测的，我不是做这个的，我就不详细介绍了详细的原理我也不会会特别详细的介绍如果有兴趣可以去看这两篇文章：[Crowd_Counting]-DSSINet-ICCV2019 - 知乎 https://zhuanlan.zhihu.com/p/87990860 一文理解条件随机场CRF - 知乎 https://zhuanlan.zhihu.com/p/70067113 那么我们讲什么？当然是他干嘛用的了。 干什么？ 先看一张图：
TabularSemanticParsing论文: 使用BERT模型将自然语言问题转换为SQL
09-03
Bridging Textual and Tabular Data for Cross-Domain Text-to-SQL Semantic Parsing This is the official code release of the following paper: Xi Victoria Lin, Richard Socher and Caiming Xiong. Bridging Textual and Tabular Data for Cross-Domain Text-to-SQL Semantic Parsing. Findings of EMNLP 2020.

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

YingJingh

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值