问答模型（八） 训练NER模型

已于 2022-06-09 13:43:19 修改
阅读量196 收藏
点赞数
分类专栏： 项目实训 文章标签： 深度学习 自然语言处理 机器学习
于 2022-06-05 19:45:22 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/NewtonLoop/article/details/125135744
版权
数据集

NLPCC2016KBQA

数据格式：

<question id=1>	《机械设计基础》这本书的作者是谁？
<triple id=1>	机械设计基础 ||| 作者 ||| 杨可桢，程光蕴，李仲生
<answer id=1>	杨可桢，程光蕴，李仲生
==================================================
<question id=2>	《高等数学》是哪个出版社出版的？
<triple id=2>	高等数学 ||| 出版社 ||| 武汉大学出版社
<answer id=2>	武汉大学出版社
==================================================
<question id=3>	《线性代数》这本书的出版时间是什么？
<triple id=3>	线性代数 ||| 出版时间 ||| 2013-12-30
<answer id=3>	2013-12-30
==================================================
<question id=4>	安德烈是哪个国家的人呢？
<triple id=4>	安德烈 ||| 国籍 ||| 摩纳哥
<answer id=4>	摩纳哥
==================================================

使用问题与三元组的第一个元素对albert模型进行训练

模型训练过程

在这里插入图片描述

模型评估

在这里插入图片描述

NewtonLoop
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
iamQA:中文wiki百科QA问答系统，使用了CCKS2016数据的NER模型和CMRC2018的阅读理解模型，还有W2V词向量搜索,使用torchserve部署
05-24
iamQA 中文wiki百科问答系统，本项目使用了torchserver部署模型 知识库:wiki百科中文数据 模型:使用了的NER(CCKS2016数据)和阅读理解模型(CMRC2018)，还有Word2Vec词向量搜索。 详细内容可以参考文章: 项目框架 模块介绍 ChineseWiki-master 功能：清洗wiki中文数据 相关项目: NER 功能：从问题中识别实体 例子：qurry:周董是谁？ 》》 entiy:周董 模型：ALBERT 数据集：CCKS2016KBQA 相关项目： Word2vec 功能：如果实体不在知识库，则用W2V搜索近似实体 例子：entity:周董 >> ['周杰伦','JAY','林俊杰'] 相关项目： Entity linking 功能:根据NER或W2V得到的mention entity搜索知识库 Reader 功能：阅读理解文段，精确定位答
命名实体识别（NER）综述
热门推荐
Running Snail
07-12 3万+
本文是中文信息处理课程的期末考核大作业 摘要 命名实体识别是自然语言处理中的热点研究方向之一， 目的是识别文本中的命名实体并将其归纳到相应的实体类型中。首先阐述了命名实体识别任务的定义、目标和意义； 然后介绍了命名实体识别研究的发展进程，从最初的规则和字典方法到传统的统计学习方法再到现在的深度学习方法，不断地将新技术应用到命名实体识别研究中以提高性能； 最后针对评判命名实体识别模型的好坏，总结了常用的若干数据集和常用工具，并给出了未来的研究建议 。 1. 引言 ​命名实体识别这个术语首次出现在MUC-6.
问答模型训练(一)
NewtonLoop的博客
03-13 1407
参考AI Studio----基于bert的模型的机器阅读理解 安装paddle2.0.2框架 执行以下命令安装（推荐使用百度源）： python -m pip install paddlepaddle==2.0.2 -i https://mirror.baidu.com/pypi/simple 修改下载到的paddle的源码 按理说下载好的库与参考链接中使用的库相同，在安装好该环境后就能直接使用。但实际情况是，pip安装的库与paddle的github仓库中的文件有所出入，因此将使用到的文件对照gi
NLP：训练一个中文问答模型Ⅰ
机器会学习的博客
03-13 3013
本文基于经典的NMT架构（Seq2Seq+Attention)，训练了一个中文问答模型，把问题到答案之间的映射看作是问题到答案的翻译。基于Tensorflow 2.x实现，分词采用了jieba，在中文词汇粒度上训练模型。
问答模型训练(二)——数据预处理
NewtonLoop的博客
03-16 2458
到目前为止，问答模型的代码已经全部写完并可以跑通啦，所以此篇以及后续的n篇里，内容会集中在复盘+细节修正上。 服务器选择 paddlepaddle和paddlenlp已经在自己的电脑上配置完成，但由于个人PC算力有限，在AI Studio上使用模拟我的8G CPU无GPU的环境进行模型训练时，无论如何调节batchsize，内存始终溢出。为了模型训练的效果，最终还是选择了在AI Studio上对模型进行训练。 同样，后续使用模型进行预测时，在数据预处理过程以及后续预测过程都出现了内存溢出的情况，因此拟用AI
实战30：基于VGG与LSTM实现针对图片的问答任务 数据+代码 可以作为毕设
机器学习深度学习业余选手
11-25 1030
基于VGG与LSTM实现针对图片的问答任务 数据+代码 可以作为毕设
Python-使用预训练语言模型BERT做中文NER
08-10
4. **Hugging Face Transformers库**：了解如何使用这个库来加载和微调预训练的BERT模型，包括模型实例化、数据预处理、模型训练和评估。 5. **中文处理**：讨论处理中文文本的特殊性，如分词和字符编码，以及如何...
BERT_NER模型权重
09-13
标题中的“BERT_NER模型权重”指的是一个基于BERT（Bidirectional Encoder Representations from Transformers）的命名实体识别（NER）模型的权重文件。BERT是Google在2018年提出的一种预训练语言模型，它通过在大...
生物医学领域的预训练语言模型：系统综述
10-19
在生物医学领域，有诸如BioBERT、BlueBERT、PubMedBERT等模型，它们通过微调（fine-tuning）适应特定的生物医学任务，如文本分类、命名实体识别（NER）、关系抽取、问答系统等。这些模型不仅提高了对生物医学文本的...
CRF-NER模型
12-11
2. **模型训练**：使用带有已知实体标注的语料库（如CONLL数据集）来训练模型，通过最大化整个序列的条件概率来优化模型参数。 3. **解码预测**：在测试阶段，给定新的未标注文本，模型会根据学习到的参数计算出每...
基于python的高质量中文预训练模型
03-20
这些模型通常经过大规模无标注文本的训练，学习到丰富的语言表示，之后可以在下游任务中进行微调，如情感分析、问答系统、机器翻译等。 **Python作为开发语言的优势** Python是NLP领域的首选编程语言，因为它具有易...
NER问题的模型训练5种相关提升tricks
qq_37056779的博客
11-05 1041
NER问题的模型训练5种相关提升tricks
5分钟NLP：快速实现NER的3个预训练库总结
deephub
02-21 2261
在文本自动理解的NLP任务中，命名实体识别(NER)是首要的任务。NER模型的作用是识别文本语料库中的命名实体例如人名、组织、位置、语言等。 NER模型可以用来理解一个文本句子/短语的意思。它可以识别文本中可能代表who、what和whom的单词，以及文本数据所指的其他主要实体。 在本文中，我们将介绍对文本数据执行 NER 的 3 种技术。 这些技术将涉及预训练和定制训练的命名实体识别模型。 基于 NLTK 的预训练 NER 基于 Spacy 的预训练 NER 基于 BERT 的自定义 NER 基于NL
React 模板封装之树形模板 TreeTable
杏子
12-30 2486
前面有介绍过 React 模板封装之基础模板 BaseTable 和 React 模板封装之拖曳模板 DragTable，今天在这两个模板的基础上实现一个树形模板 TreeTable。目前改模板只支持两个层级，即父表格与子表格。
斯坦福NER模型训练
chloe1993的博客
06-06 2223
coreNLP是斯坦福大学开发的关于自然语言处理的工具，包含了命名实体识别、词性标注、分词器等等功能，功能强大使用方便。可以在官网上下载coreNLP系列文件：https://stanfordnlp.github.io/CoreNLP/index.html#download 并在本地进行安装，注意需要首先安装java。 可以在网上搜索相关安装教程，本文重点是介绍如何通过stanford NER C...
NLP——Question Answering 问答模型
最新发布
qq_42902997的博客
06-15 3647
语义分析（Semantic Analysis）：这一步涉及到理解问题的含义，可能包括命名实体识别（Named Entity Recognition，即识别出问题中的实体，如人名、地名等）、实体链接（Entity Linking，即把问题中的实体链接到知识库中的实体）和关系抽取（Relation Extraction，即理解问题中的实体之间的关系）。这可能是一种结构化的表示（例如一个包含实体、关系和关键词的图）或者一种分布式的表示（例如一个向量，由词嵌入模型如Word2Vec或BERT生成）。
问答模型方案设计
NewtonLoop的博客
03-10 765
方案设计图示 query: 用户的提问 passage: 文章 问答模型设计的是简单问题模型，即query的答案是从passage中抽取出的。query和passage经过数据预处理，得到id形式的输入，然后把query，passage的id形式输入到BERT模型，BERT模型经过处理会输出答案的位置，输出位置以后就可以得到相应的答案了。 ...
问答模型(六)——模型训练及预测
NewtonLoop的博客
03-16 721
模型训练 模型训练的过程通常有以下步骤： 从dataloader中取出一个batch data 将batch data喂给model，做前向计算 将前向计算结果传给损失函数，计算loss。 loss反向回传，更新梯度。重复以上步骤。 每训练一个epoch时，程序通过evaluate()调用paddlenlp.metric.squad中的squad_evaluate(), compute_predictions()评估当前模型训练的效果，其中： compute_predictions()用于生成可提交
干货！弱监督问答中缓解有害推理方案影响的模型训练算法研究
AITIME_HY的博客
12-03 247
点击蓝字关注我们AI TIME欢迎每一位AI爱好者的加入！弱监督问答场景下通常只有最终答案而没有中间推理方案的标注。然而，对于一个问题，可能存在许多逻辑错误但结果正确的推理方案；这些推理方...
基于bert模型的自然语言处理实战 源码
05-01
在具体实现过程中，首先要针对NER任务重新定义BERT模型，然后进行数据的预处理、训练和测试模型等步骤。 再者是文本推荐任务。该部分代码主要使用了PyTorch、transformers库和nltk库，实现了BERT模型在文本推荐任务...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值