BERT-BiLSTM-CRF基于BERT预训练的中文命名实体识别TensorFlow实现

最新推荐文章于 2024-08-05 10:13:02 发布
最新推荐文章于 2024-08-05 10:13:02 发布
阅读量1.4w 收藏 75
点赞数 5
原文链接：http://loveai.tech/
版权


向AI转型的程序员都关注了这个号????????????

机器学习AI算法工程   公众号：datayx

Tensorflow solution of NER task Using BiLSTM-CRF model with Google BERT Fine-tuning

现在可以使用下面的命令下载软件包了：

pip install bert-base==0.0.7 -i https://pypi.python.org/simple

或者使用基于源代码的安装：

git clone https://github.com/macanv/BERT-BiLSTM-CRF-NER

cd BERT-BiLSTM-CRF-NER/

python3 setup.py install

如果没啥问题，你将会看到这个：

笔者在windows10/ Linux/ Mac OSX上都测试过，安装没有问题。

软件包现在支持的功能

  1. 命名实体识别的训练

  2. 命名实体识别的服务C/S

  3. 继承优秀开源软件：bert_as_service(hanxiao)的BERT所有服务

基于bert命名行训练命名实体识别模型:

安装完bert-base后，会生成两个基于命名行的工具，其中bert-base-ner-train支持命名实体识别模型的训练，你只需要指定训练数据的目录，BERT相关参数的目录即可。可以使用下面的命令查看帮助

bert-base-ner-train -help

训练命名实体识别的例子如下：

参数说明

  1. 其中data_dir是你的数据所在的目录，训练数据，验证数据和测试数据命名格式为：train.txt, dev.txt，test.txt,请按照这个格式命名文件，否则会报错。
    训练数据的格式如下:

每行得第一个是字，第二个是它的标签，使用空格’ '分隔，请一定要使用空格。句与句之间使用空行划分。程序会自动读取你的数据。

output_dir：训练模型输出的文件路径，模型的checkpoint以及一些标签映射表都会存储在这里，这个路径在作为服务的时候，可以指定为-ner_model_dir

init_checkpoint: 下载的谷歌BERT模型

bert_config_file ：谷歌BERT模型下面的bert_config.json

vocab_file：谷歌BERT模型下面的vocab.txt

训练完成后，你可以在你指定的output_dir中查看训练结果。

将命名实体识别任务进行服务部署

作为服务的很多代码都来自优秀的开源项目: bert as service of hanxiao

https://github.com/hanxiao/bert-as-service

作为服务的命名是：bert-base-serving-start，同样的，你可以先使用-help查看相关帮助

bert-base-serving-start -help

作为命名实体识别任务的服务，这两个目录是你必须指定的：ner_model_dir, bert_model_dir
然后你就可以使用下面的命令启动了：

参数解释

bert_model_dir: 谷歌BERT模型的解压路径,可以在这里下载 https://github.com/google-research/bert

model_dir: 训练好的NER模型或者文本分类模型的路径，对于上面的output_dir

model_pd_dir: 运行模型优化代码后， 经过模型压缩后的存储路径，例如运行上面的命令后改路径下会产生 ner_model.pb 这个二进制文件

mode:NER 或者是BERT这两个模式，类型是字符串，如果是NER,那么就会启动NER的服务，如果是BERT，那么具体参数将和[bert as service] 项目中得一样。

我提供了命名实体识别pb模型下载：

https://pan.baidu.com/s/1m9VcueQ5gF-TJc00sFD88w,

提取码: guqq

文本分类模型：https://pan.baidu.com/s/1oFPsOUh1n5AM2HjDIo2XCw, 提取码: bbu8

文本分类使用的是bert中的demo:run_classxxx.py，在运行的时候使用Pickle序列化了label_list和id2label折两个变量。

将 ner_mode.pb/classification_model.pb 文件放到 model_pd_dir目录下,将命名识别的label_list.pkl和id2map.pkl不同的模型不同的文件夹，因为他们同名，但是内容不一样，需要区分开来

命名实体识别模型只支持人名，地名，住址机构名的识别，在我的测试数据上有95.6%的F1值（实体级别的得分）

文本分类模型数据来自清华大学的文本分类数据：http://thuctc.thunlp.org/ ， 在测试数据上准确率为98%~99%的准确率

如果使用的下载的模型，你可以使用下面的命令启动，替换你自己的路径即可：

你将会看到下面的启动信息(启动log有点多，分两张图截)：

在本地连接服务端进行命名实体识别的测试

你可以使用下面的代码进行服务的连接，在本地进行NER测试，客户端代码如下:

运行后，会输出下面的信息：

结果说明：

返回的结果就是序列标注的结果

到此，基于命令行的用法已经讲完，不明白的地方请评论或者在GitHub上提交issue,觉得有用。

原文地址 

https://blog.csdn.net/macanv/article/details/85684284

阅读过本文的人还看了以下文章：

【全套视频课】最全的目标检测算法系列讲解，通俗易懂！

《美团机器学习实践》_美团算法团队.pdf

《深度学习入门：基于Python的理论与实现》高清中文PDF+源码

python就业班学习视频，从入门到实战项目

2019最新《PyTorch自然语言处理》英、中文版PDF+源码

《21个项目玩转深度学习：基于TensorFlow的实践详解》完整版PDF+附书代码

《深度学习之pytorch》pdf+附书源码

PyTorch深度学习快速实战入门《pytorch-handbook》

【下载】豆瓣评分8.1,《机器学习实战:基于Scikit-Learn和TensorFlow》

《Python数据分析与挖掘实战》PDF+完整源码

汽车行业完整知识图谱项目实战视频(全23课)

李沐大神开源《动手学深度学习》，加州伯克利深度学习（2019春）教材

笔记、代码清晰易懂！李航《统计学习方法》最新资源全套！

《神经网络与深度学习》最新2018版中英PDF+源码

将机器学习模型部署为REST API

FashionAI服装属性标签图像识别Top1-5方案分享

重要开源！CNN-RNN-CTC 实现手写汉字识别

yolo3 检测出图像中的不规则汉字

同样是机器学习算法工程师，你的面试为什么过不了？

前海征信大数据算法：风险概率预测

【Keras】完整实现‘交通标志’分类、‘票据’分类两个项目，让你掌握深度学习图像分类

VGG16迁移学习，实现医学图像识别分类工程项目

特征工程(一)

特征工程(二) :文本数据的展开、过滤和分块

特征工程(三):特征缩放,从词袋到 TF-IDF

特征工程(四): 类别特征

特征工程(五): PCA 降维

特征工程(六): 非线性特征提取和模型堆叠

特征工程(七)：图像特征提取和深度学习

如何利用全新的决策树集成级联结构gcForest做特征工程并打分？

Machine Learning Yearning 中文翻译稿

蚂蚁金服2018秋招-算法工程师（共四面）通过

全球AI挑战-场景分类的比赛源码(多模型融合)

斯坦福CS230官方指南：CNN、RNN及使用技巧速查（打印收藏）

python+flask搭建CNN在线识别手写中文网站

中科院Kaggle全球文本匹配竞赛华人第1名团队-深度学习与特征工程

不断更新资源

深度学习、机器学习、数据分析、python

 搜索公众号添加： datayx  

QQ群 

333972581

datayx
关注
NLPer必会：bert+bilstm+CRF进行中文命名实体识别（NER）
Clairezcy的博客
02-27 8345
1、命名实体识别由于有标注标签的存在，转化为多分类问题。 标注标签本次训练集中为‘BIO’方式标注 命名实体标注三种：人物，地点，组织机构 标签共7个类别：B-PER,I-PER,B-LOC,I-LOC,B-ORG,I-ORG,O 2、对于文本向量表示，如使用预训练模型BERT的向量： 安装腾讯肖涵博士开发的Bert Server(bert-serving-server)和Client(bert-...
BERT-BiLSTM-CRF-NER:NER任务的Tensorflow解决方案将BiLSTM-CRF模型与Google BERT微调和私有服务器服务结合使用
05-09
BERT-BiLSTM-CRF-NER Tensorflow solution of NER task Using BiLSTM-CRF model with Google BERT Fine-tuning 使用谷歌的BERT模型在BLSTM-CRF模型上进行预训练用于中文命名实体识别的Tensorflow代码' 中文文档请查看 如果对您有帮助，麻烦点个star,谢谢~~ Welcome to star this repository! The Chinese training data($PATH/NERdata/) come from: The CoNLL-2003 data($PATH/NERdata/ori/) come from: The evaluation codes come from: Try to implement NER work based on google'
基于BERT-BiLSTM-CRF模型的中文实体识别
05-06
命名实体识别是自然语言处理的一项关键技术. 基于深度学习的方法已被广泛应用到中文实体识别研究中. 大多数深度学习模型的预处理主要注重词和字符的特征抽取, 却忽略词上下文的语义信息, 使其无法表征一词多义, 因而实体识别性能有待进一步提高. 为解决该问题, 本文提出了一种基于BERT-BiLSTM-CRF模型的研究方法. 首先通过BERT模型预处理生成基于上下文信息的词向量, 其次将训练出来的词向量输入BiLSTM-CRF模型做进一步训练处理. 实验结果表明, 该模型在MSRA语料和人民日报语料库上都达到相当不错的结果, F1值分别为94.65%和95.67%.
深度学习自然语言处理-命名实体识别：BiLSTM+CRF实现命名实体识别、实体、关系、属性抽取实战项目合集（含智能标注）
最新发布
datian1234的博客
08-05 1191
命名实体识别（Named Entity Recoginition, NER） 旨在将一串文本中的实体识别出来，并标注出它所指代的类型，比如人名、地名等等。具体地，根据MUC会议规定，命名实体识别任务包括三个子任务：我们来看这句话，百度于2021年3月23日正式回香港上市，这句话中"百度"是个机构名，"香港"是个地名，"2021年3月23日"是个日期，命名实体识别任务能够通过建模的方式来帮助我们自动地发现这些实体。命名实体识别是一项比较关键的NLP任务，具有广泛的应用场景，例如在对话意图理解（NLU）中，通过
bert——Bert-BiLSTM-CRF命名实体识别演变
老简单题
03-09 4318
（1）RNN 网络中的循环结构使得某个时刻的状态能够传到下一个时刻，即可以实现信息的持久化。因此，循环神经网络的主要用途是处理和预测序列数据。 缺点： RNNs能够把以前的信息联系到现在，从而解决现在的问题。但是，随着预测信息和相关信息间的间隔增大， RNNs 很难去把它们关联起来了。从理论上来讲，通过选择合适的参数，RNNs 确实是可以把这种长时期的依赖关系 (“long-term dependencies”) 联系起来，并解决这类问题的。但遗憾的是在实际中， RNNs 无法解决这个问题。如果序列过长，
基于BERT预训练的中文命名实体识别TensorFlow实现
热门推荐
macanv的专栏
01-03 14万+
BERT-BiLSMT-CRF-NER Tensorflow solution of NER task Using BiLSTM-CRF model with Google BERT Fine-tuning 使用谷歌的BERT模型在BLSTM-CRF模型上进行预训练用于中文命名实体识别的Tensorflow代码’ 代码已经托管到GitHub 代码传送门 大家可以去clone 下来亲自体验一下！ g...
基于Pytorch的BERT-IDCNN-BILSTM-CRF中文实体识别实现
05-20
基于Pytorch的BERT-IDCNN-BILSTM-CRF中文实体识别实现 模型训练（可选） 下载pytorch_model.bin到data/bert 下载训练集和测试集到data/ 检查配置constants.py 执行train.py，命令为 python train.py 中文命名实体...
基于pytorch的bert-bilstm-crf中文命名实体识别
05-20
目前只测试了bert_crf模型，其余的可根据需要自行调整。 问题汇总 ValueError: setting an array element with a sequence. The requested array has an inhomogeneous shape after 1 dimensions. 解决方法：pip ...
基于BERT+BiLSTM+CRF实现中文命名实体识别
05-20
1、目录结构 data: 训练数据集 models: 构造的模型 ...创建bert_model路径，将预训练好的bert模型放到这个路径下解压 具体结构如下： python3 run.py --mode xxx xxx: train/test/demo，默认为demo
基于BERT-BILSTM-CRF进行中文命名实体识别python源码+项目使用说明+数据+模型.zip
10-25
基于BERT-BILSTM-CRF进行中文命名实体识别python源码+项目使用说明+数据+模型.zip 依赖 ```python scikit-learn==1.1.3 scipy==1.10.1 seqeval==1.2.2 transformers==4.27.4 pytorch-crf==0.7.2 ``` # 目录结构 ...
基于BERT+BILSTM+CRF进行中文命名实体识别python源码+项目说明+模型+数据.zip
04-11
基于BERT+BILSTM+CRF进行中文命名实体识别python源码+项目说明+模型+数据.zip基于BERT+BILSTM+CRF进行中文命名实体识别python源码+项目说明+模型+数据.zip基于BERT+BILSTM+CRF进行中文命名实体识别python源码+项目...
BERT-BiLSTM-CRF-NER-master.zip
08-09
BERT只是一个预训练的语言模型，在各大任务上都刷新了榜单。我们本次实验的任务也是一个序列标注问题，简而言之，就是是基于BERT预训练模型，在中文NER（Named Entity Recognition，命名实体识别）任务上进行fine-tune。 Fine-tune是什么意思，中文译为微调。在transfer learning中，对事先训练好的特征抽取网络，直接拿来用在下游任务上。固定其特征抽取层的网络参数，只在原有的网络上增加少量神经元，做最后的分类任务，而且只更新分类参数。
Bert-BiLSTM-CRF-pytorch-master (1)_python_
10-01
named entity retrival python code
BERT-BiLSTM-CRF-master.zip
07-17
命名实体识别代码，解压即可用 # BERT-BiLSTM-CRF BERT-BiLSTM-CRF的Keras版实现 ## BERT配置 1. 首先需要下载Pre-trained的BERT模型，本文用的是Google开源的中文BERT模型： - https://storage.googleapis.com/bert_models/2018_11_03/chinese_L-12_H-768_A-12.zip 2. 安装BERT客户端和服务器 pip install bert-serving-server pip install bert-serving-client，源项目如下： - https://github.com/hanxiao/bert-as-service 3. 打开服务器，在BERT根目录下，打开终端，输入命令： - bert-serving-start -pooling_strategy NONE -max_seq_len 144 -mask_cls_sep -model_dir chinese_L-12_H-768_A-12/ -num_worker 1
Python-用谷歌BERT模型在BLSTMCRF模型上进行预训练用于中文命名实体识别的Tensorflow代码
08-10
Tensorflow solution of NER task Using BiLSTM-CRF model with Google BERT Fine-tuning
Bert-Bilstm-CRF基线模型详解&代码实现
suibianshen2012的专栏
12-11 1万+
这个系列我们来聊聊序列标注中的中文实体识别问题，第一章让我们从当前比较通用的基准模型Bert+Bilstm+CRF说起，看看这个模型已经解决了哪些问题还有哪些问题待解决。以下模型实现和评估脚本，详见 Github-DSXiangLi/ChineseNER NER问题抽象 实体识别需要从文本中抽取两类信息，不同类型的实体本身token组合的信息（实体长啥样），以及实体出现的上下文信息（实体在哪里）一种解法就是通过序列标注把以上问题转化成每个字符的分类问题，label主要有两种其中BIO更常见些 BIO：
探索先进自然语言处理：BERT-BiLSTM-CRF模型
gitblog_00097的博客
06-08 536
探索先进自然语言处理：BERT-BiLSTM-CRF模型 项目地址:https://gitcode.com/hertz-pj/BERT-BiLSTM-CRF-NER-pytorch 项目介绍 BERT-BiLSTM-CRF 是一个专为中文实体识别（NER）设计的强大模型，它将BERT的预训练能力与双向长短时记忆网络（BiLSTM）和条件随机场（CRF）相结合，以实现卓越的性能。该项目提供了一个简单...
中文命名实体识别(tensorflow，BiLSTM+CRF)
weixin_45011930的博客
04-14 2126
运行Github上简单的一个命名实体识别BiLSTM+CRF模型 一，版本问题 TensorFlow版本为1.4.0 Python版本为2.7 二，运行环境 Linux操作系统 在Win10下会报错 三，运行步骤 首先运行data里的py文件，获取pkl文件，供模型使用 然后开始训练 使用 python train.py 开始训练，运行tensorflow文件夹里的train.py，训练的模型会存到model文件夹中 四，运行结果 获取了预测准确率，每四个数据存到一个文件里，并保存在Model文件夹下 .
bert bilstm crf做NER任务
hello_wor1d的博客
09-05 652
标题在网上看了很多相关代码，不知道为什么特别难跑通，这段时间刚好自己做了个数据集测试一下。 三方库 用的库是kashgari，一个专业做文本分类和序列标注的库，其中内置了BertEmbedding，GPT2Embedding，WordEmbedding等特征提取类，可以利用与训练模型进行迁移学习。 以及内置了CNN_LSTM_Model BiLSTM_Model BiLSTM_CRF_Model BiGRU_Model BiGRU_CRF_Model 深度学习模型供选择。 对于我这种新手来说
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值