NER常见的解决方案汇总(deep learning)

已于 2023-08-20 22:52:53 修改
阅读量653 收藏
点赞数
分类专栏： nlp 文章标签： 深度学习 人工智能 自然语言处理
于 2023-03-12 18:03:40 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/loveitlovelife/article/details/129054809
版权
文章介绍了NER（命名实体识别）的任务，通过BIOES标注方式解释了实体识别的过程。讨论了多种模型如BiLSTM-CRF、IDCNN-CRF和BERT-CRF等在该领域的应用，并提到了一些相关论文，如使用MRC框架和全局指针的创新方法。此外，文章还提及了高效的BERT变体和在NER中的应用。
摘要由CSDN通过智能技术生成

文章目录

任务介绍

NER （Named Entity Recognition）即命名实体识别。顾名思义就是识别文本当中的实体信息。举个例子，

输入：张三现在在武汉市江夏区金融港

输出：B-PER，E-PER，O, O，O,B-CITY，I-CITY，E-CITY，B-DISTRICT，I-DISTRICT，E-DISTRICT，B-LOCATION,I-LOCATION,-E-LOCATION

其中，“张三”以PER，“武汉市”以CITY，“江夏区”以DISTRICT，“金融港”以LOCATION为实体类别分别挑了出来。

NER的过程，就是预测出其序列标注的过程。

备注：
BIOES标注方式中分别代表什么意思：
B，即Begin，表示开始
I，即Intermediate，表示中间
E，即End，表示结尾
S，即Single，表示单个字符
O，即Other，表示其他，用于标记无关字符

相关论文

目前的解决方案及对应的paper如下，其中bilstm-crf和bert-crf成为ner领域常用的baseline。

BiLSTM-CRF

paper:Neural Architectures for Named Entity Recognition

IDCNN-CRF

paper:Fast and Accurate Entity Recognition with Iterated Dilated Convolutions

BERT-CRF

ner-mrc

paper:A Unified MRC Framework for Named Entity Recognition

BERT-CASCADE-CRF

paper:A Novel Cascade Binary Tagging Framework for Relational Triple Extraction

FLAT

paper:FLAT: Chinese NER Using Flat-Lattice Transformer

global-pointer

paper:Global Pointer: Novel Efficient Span-based Approach for Named Entity Recognition

efficient-global-pointer

blog:Efficient GlobalPointer：少点参数，多点效果

bert-biaffine

paper:Named Entity Recognition as Dependency Parsing

评测结果 to be continued

github

bert4torch 里面的轮子已经非常丰富了，咱就直接拿来用就好了

loveitlovelife
关注
专栏目录
NER数据增强、badcase处理、数据优化
满腹的小不甘
07-16 1999
如何修正NLP问题的bad case NLP.TM | 近期做NER的反思 在NLP层面思考数据量不足（冷启动）的问题，数据增强其实是一个还不错的策略。 调整词句顺序。短句用词维度，长句可以n-gram或者是句子级别的调换顺序。 对NER，可以把特定槽位里面的词替换为其他同类型的词，当然文本分类也可以这么做。（收益大） 总结规则模板，直接生成数据。（收益不小） 复制粘贴。（数据量少时收益不明显，数据量大以后有少量收益） 复制粘贴也是有技巧的，例如拿一些比较差的bad case的特色case生成纠
机器学习(Machine Learning)与深度学习(Deep Learning)资料汇总
ZhangPY的专栏
02-28 6761
《Brief History of Machine Learning》 介绍:这是一篇介绍机器学习历史的文章，介绍很全面，从感知机、神经网络、决策树、SVM、Adaboost到随机森林、Deep Learning. 《Deep Learning in Neural Networks: An Overview》 介绍:这是瑞士人工智能实验室Jurgen Schmidhuber写的最
NER关系三元组抽取方案
最新发布
kk的博客
02-22 1125
先用序列标注模型预测句子中的实体，再对实体（加上句子）走关系分类模型，预测实体的关系，最后形成有效的三元组。
CLUENER 细粒度命名实体识别baseline：BiLSTM-CRF
Rock_y的博客
09-28 3224
文章目录数据类别标签类别定义 & 标注规则数据下载地址数据分布数据字段解释数据来源baseline：BiLSTM-CRF运行参考 命名实体识别(NameEntity Recognition) 是信息提取的一个子任务，其目的是将文本中的命名实体定位并分类为预定义的类别，如人员、组织、位置等。它是信息抽取、问答系统和句法分析等应用领域的重要基础技术，是结构化信息抽取的重要步骤。 目前可公开访问获得的、高质量、细粒度的中文NER数据集较少，其中（CLUE）基于清华大学开源的文本分类数据集THUCNEWS，
预训练模型：一种低资源实体NER标注的方法
爱吃火锅的博客
12-05 2992
前言 今天介绍一篇最新的NER预训练模型paper~ 有关于在预训练模型上面训练命名实体识别(NER)有关的任务，这方面的研究还不多，注意不是NER fintune，是NER pretrain，主要的原因就是这面的数据集很少，即使有一个的数据集，但是其标注的质量也不高，为此本文主要贡献就是发布了一个比较大的且高质量的NER数据，进而在上面训练得到了一个NER的预训练模型NER-BERT ，实验证明好于BERT，感兴趣的小伙伴可以看看～～ NER-BERT ： https://arxiv.org/pdf
NLP-信息抽取-NER-2022：Global Pointer
u013250861的博客
09-25 1869
本文将介绍一个称为GlobalPointer的设计，它利用全局归一化的思路来进行命名实体识别（NER），可以无差别地识别嵌套实体和非嵌套实体，在非嵌套（Flat NER）的情形下它能取得媲美CRF的效果，而在嵌套（Nested NER）情形它也有不错的效果。所以，CRF在理论上确实都存在不大合理的地方，而相比之下，GlobalPointer则更加贴近使用和评测场景：它本身就是以实体为单位的，并且它设计为一个“多标签分类”问题，这样它的损失函数和评价指标都是实体颗粒度的，哪怕只对一部分也得到了合理的打分。
【点云系列】综述： Deep Learning for 3D Point Clouds: A Survey
weixin_43882112的博客
12-03 5104
文章目录摘要简介：2 背景2.1 数据集2.2 衡量指标3 3D形状分类3.1基于多视角的方法3.2基于体素的方法3.3 基于点的方法3.3.1逐点MLP网络3.3.2基于卷积的网络3.3.3基于图的网络3.3.4基于数据索引的方法3.3.5其他方法小结4 3D物体检测与跟踪4.1 3D物体检测4.1.1 基于候选区域的方法4.1.2 single-shot方法4.2 3D对象跟踪4.3 3D场景流估计4.4 小结：5 3D点云分割5.1 3D 语义分割5.1.1 基于投影的方法5.1.2 基于离散的方法5
三维点云语义分割【综述】 ——Deep Learning for 3D Point Clouds: A Survey
Dujing2019的博客
02-16 1万+
3D POINT CLOUD SEGMENTATION3D Semantic SegmentationProjection-based NetworksPoint-based NetworksInstance SegmentationProposal-based MethodsProposal-free MethodsPart SegmentationSummary 3D点云分割需要了解全局几何结...
Recent Trends in Deep Learning Based Natural Language Processing(翻译)
OGirassol的博客
11-28 1199
Recent Trends in Deep Learning Based Natural Language Processing(翻译) 摘要 深度学习方法采用多个处理层来学习数据的多层表示，并在许多领域产生了最新的技术成果。最近在NLP内容的背景下，各种模型设计和方法得到了发展。本文中，我们回顾了与深度学习有关的模型和方法，这些模型和方法已经应用到众多NLP任务，并提出了其演变过程。我们也总结、...
机器学习(Machine Learning)&深度学习(Deep Learning)资料
热门推荐
weixin_30756499的博客
07-07 1万+
##机器学习(Machine Learning)&深度学习(Deep Learning)资料(Chapter 1)---#####注:机器学习资料[篇目一](https://github.com/ty4z2008/Qix/blob/master/dl.md)共500条,[篇目二](https://github.com/ty4z2008/Qix/blob/master/dl2.md)开始更新...
NER中的一些编码器与解码器
init__的博客
11-19 1966
文章目录编码LR-CNN解码参考 本篇文章是命名实体识别（NER）算法的进一步介绍，主要内容是介绍一些编码器与解码器，作为上一篇内容的补充。 编码 参考自中文NER的正确打开方式: 词汇增强方法总结 (从Lattice LSTM到FLAT)。 关于编码部分，我想更多的介绍一些中文编码的内容。我们知道中文都是对字进行编码的，如果能够将词汇信息加入到其中，能够提供更为丰富的信息。比如在命名实体识别（NER）算法中我们介绍了Lattice LSTM就引入了词汇的信息。 Lattice LSTM中存在一些缺点：
常见ner解决方案简单汇总
u012291116的博客
09-04 717
本文总结了常见的几种ner算法，并在数据集上进行指标对比。
NER范式：①BERT+CRF；②Multi-Head（token pairs based）；③BERT+MRC；④Span-based
u013250861的博客
02-17 1250
这篇文章梳理下目前命名实体识别（NER）的业务场景与SOTA方法。说到NER，是绕不开BERT+CRF的，根据本人的经验，BERT+CRF就算不是你当前数据集的SOTA，也与SOTA相差不大了，但考虑到更好的效果：CRF虽然引入了无向图，但只约束了相连结点之间的关联，并没有从全局出发来考虑问题更复杂的业务场景：如Flat NER到Nested NER、不连续NER等复杂业务场景的不断涌现，CRF是否还能优雅地解决问题更快的线上serving效率：CRF解码复杂度与输入的文本长度呈线性关系。
NER系列之 《各类NER经典模型: HMM, Bi-LSTM, CRF, BERT, NEZHA, GlobalPointer》代码实现
weixin_43646592的博客
10-19 725
NER系列之 《各类NER经典模型: HMM, Bi-LSTM, CRF, BERT, NEZHA, GlobalPointer》代码实现
苏剑林GlobalPointer系列阅读笔记
enchantedowl的博客
10-06 1980
苏剑林GlobalPointer理论与实践
中文NER问题的解决方案
DecafTea的博客
03-01 1621
baseline: BiLSTM+CRF or BERT+BiLSTM+CRF 模型之外，如何提升标注效果？ 在垂直领域，一个不断积累、不断完善的实体词典对NER性能的提升是稳健的，基于规则+词典也可以快速应急处理一些badcase 对于通⽤领域，可以多种分词工具和多种句法短语⼯具进行融合来提取候选实体，并结合词典进行NER。 此外，怎么更好地将实体词典融入到NER模型中，也是一个值得探索的问题（如嵌入到图神经网络中提取特征[3]）。 如何在模型层面提升NER性能？ NER是一个重底层的任务，我们应
逐行讲解CRF实现命名实体识别(NER)
芒果不茫的博客
10-07 9093
使用sklearn_crfsuite的CRF工具做中文命名实体识别(NER)， 获取中文原始数据集，处理成sklearn_crfsuite所需要的格式，代码有详细注释，若有遗漏或不详细可评论补充。
基于 global pointer 实体抽取。
twt10512的博客
03-16 1861
长度为n的序列 有n/2(1+n)个 子序列 刚好是 文本长度*文本长度 的正方形 从对角线开始向上全部的格子数量 1 2 3 4 n 1 1+2 1+2+3 1+2+3+4 …. n/2(1+n) 上图。每个格子代表一种可能都是把实体当作一个整体的可能，北京为一个地名 竖边列为起始坐标 横列为结束坐标。 代码部分简化预处理逻辑： model_state_dict_dir = os.path.join(./outputs,cluener,202...
GlobalPointer：用统一的方式处理嵌套和非嵌套NER
qq_41898761的博客
06-09 1781
实体嵌套：指在一句文本中出现的实体，存在某个较短实体完全包含在另外一个较长实体内部的情况假设要识别文本序列长度为n，简单起见先假定只有一种实体要识别，并且假定每个待识别实体是该序列的一个连续片段，长度不限，并且可以相互嵌套（两个实体之间有交集），那么该序列有多少个“候选实体”呢？不难得出，答案是n(n+1)/2个，即长度为n的序列有n(n+1)/2个不同的连续子序列，这些子序列包含了所有可能的实体，而我们要做的就是从这n(n+1)/2个“候选实体”里边挑出真正的实体，其实就是一个“n(n+1)/2选k”的多
使用深度学习解决NER命名实体识别
"使用深度神经网络处理NER(命名实体识别)问题" 在自然语言处理领域，命名实体识别（NER）是一项关键任务，旨在从文本中识别出具有特定意义的实体，如人名、地名、组织名和专有名词等。这一过程对于信息提取、问答...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值