微调中文改错模型，使用Pytorch+Transformers实现

已于 2023-04-03 16:43:39 修改
阅读量648 收藏 6
点赞数 2
文章标签： pytorch 深度学习 python transformer
于 2023-03-31 14:27:18 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_37402244/article/details/129879411
版权

MacBertCsc-Fine tuning

微调中文改错模型

使用Pytorch+Transformers实现

由于最近自己的需要，使用Transformers库进行了中文纠错的微调模型，并设计了一个GUI程序
训练代码为main.ipynb，在词粒度上面，Accuracy达到了91%的水平
GUI代码为main.py，通过调用保存微调后的模型进行推理
现已开源，有需要的兄弟自取，保证可以运行，如果对你有帮助的话，给个star吧
github链接
gitee链接
软件截图

语音识别文本纠错模型
03-29 6402
文本纠错任务是一项NLP基础任务，其输入是一个可能含有错误字词的句子，输出是一个正确的中文句子。ASR（语音识别）文本的错误类型很多，有多字、少字、错别字、同音近音字等等。
RLCPAR：一种基于强化学习的中文专利摘要改写模型.docx
06-26
RLCPAR：一种基于强化学习的中文专利摘要改写模型.docx
pycorrector中文文本纠错
weixin_51370333的博客
05-23 831
这里使用的是MacBert4csc 模型网络结构，故还需安装一下依赖。
基于BERT的文本纠错模型使用PyTorch实现源码+说明（课程设计）.zip
11-15
基于BERT的文本纠错模型使用PyTorch实现源码+说明（课程设计）.zip 这是95分以上高分必过课程设计项目，下载即用无需修改，确保可以运行。也可作为期末大作业。 基于BERT的文本纠错模型使用PyTorch实现源码+说明（课程设计）.zip 这是95分以上高分必过课程设计项目，下载即用无需修改，确保可以运行。也可作为期末大作业。基于BERT的文本纠错模型使用PyTorch实现源码+说明（课程设计）.zip 这是95分以上高分必过课程设计项目，下载即用无需修改，确保可以运行。也可作为期末大作业。基于BERT的文本纠错模型使用PyTorch实现源码+说明（课程设计）.zip 这是95分以上高分必过课程设计项目，下载即用无需修改，确保可以运行。也可作为期末大作业。基于BERT的文本纠错模型使用PyTorch实现源码+说明（课程设计）.zip 这是95分以上高分必过课程设计项目，下载即用无需修改，确保可以运行。也可作为期末大作业。基于BERT的文本纠错模型使用PyTorch实现源码+说明（课程设计）.zip 这是95分以上高分必过课程设计项目，下载即用无需修改，确保可以运行。也可作
基于的BERT的文本纠错模型python源码+项目说明+数据集+详细注释.zip
04-12
基于的BERT的文本纠错模型python源码+项目说明+数据集+详细注释.zip 基于的BERT的文本纠错模型python源码+项目说明+数据集+详细注释.zip 基于的BERT的文本纠错模型python源码+项目说明+数据集+详细注释.zip 基于的BERT的文本纠错模型python源码+项目说明+数据集+详细注释.zip 基于的BERT的文本纠错模型python源码+项目说明+数据集+详细注释.zip 基于的BERT的文本纠错模型python源码+项目说明+数据集+详细注释.zip 基于的BERT的文本纠错模型python源码+项目说明+数据集+详细注释.zip 基于的BERT的文本纠错模型python源码+项目说明+数据集+详细注释.zip 基于的BERT的文本纠错模型python源码+项目说明+数据集+详细注释.zip 基于的BERT的文本纠错模型python源码+项目说明+数据集+详细注释.zip 基于的BERT的文本纠错模型python源码+项目说明+数据集+详细注释.zip 基于的BERT的文本纠错模型python源码+项目说明+数据集+详细注释.zip 基于的BERT的文本纠错模型python源码+项目说明+数据集+详细注释.zip 基于的BERT的文本纠错模型python源码+项目说明+数据集+详细注释.zip 【资源说明】 1、该资源内项目代码都是经过测试运行成功，功能正常的情况下才上传的，请放心下载使用。 2、适用人群：主要针对计算机相关专业(如计科、信息安全、数据科学与大数据技术、人工智能、通信、物联网、数学、电子信息等)的同学或企业员工下载使用，具有较高的学习借鉴价值。 3、不仅适合小白学习实战练习，也可作为大作业、课程设计、毕设项目、初期项目立项演示等，欢迎下载，互相学习，共同进步！
pip install自己的代码_PyCorrector文本纠错工具实践和代码详解
weixin_39892311的博客
10-30 2327
PyCorrector文本纠错工具代码详解1. 简介 中文文本纠错工具。音似、形似错字（或变体字）纠正，可用于中文拼音、笔画输入法的错误纠正。python3.6开发。pycorrector依据语言模型检测错别字位置，通过拼音音似特征、笔画五笔编辑距离特征及语言模型困惑度特征纠正错别字。1.1 在线Demohttps://www.borntowin.cn/product/corrector1.2 Q...
transformer和文本纠错初探
HUSTHY的博客
03-01 3598
一、transformer简单原理和实现 二、模型训练全流程 三、解码策略总结 1、贪心搜索(greedy search) 2、集束搜索(beam search) 3、Top-K采样和Top-p采样
transformer-copy:日语语法错误纠正工具
05-04
变压器复制 纸 小川阳一郎，山本和秀，“考虑日语纠错中的错误趋势的伪错误生成”，自然语言处理学会第二十六届年会 示范现场 目录结构 应用程序应用程序源代码 corpus_scripts脚本，例如数据集预处理 数据将您要使用的数据集放在这里 data_art伪错误将生成的数据放在此处 字典 把词汇词典放在这里 需要与实验中使用的除法单元相对应的字典 出来 data_bin 火车的二进制文件，有效数据集 data_bin_art 伪数据集的二进制文件 data_raw 测试数据集原始文件 日志日志文件 楷模模型文件 结果生成结果 执行程序 资料集 准备要使用的数据集 程序： 分割数据集（分词等） 分为训练，有效，测试 错误句和正确句分开文件 放置在data目录中 文件名示例： corpus.train.src＃训练数据的错误句侧 corpus.train.tgt＃更正训练数据的文本侧 co
文本分类神器：基于PyTorch的深度学习模型库
gitblog_00025的博客
06-16 398
文本分类神器：基于PyTorch的深度学习模型库 Chinese-Text-ClassificationChinese-Text-Classification Project including bert-classification, textCNN and so on.项目地址:https://gitcode.com/gh_mirrors/chi/Chinese-Text-Classific...
Interspeech 2019 | 阿里达摩院语音实验室：联合CTC和Transformer的自动中文纠错模型
qq_32172681的博客
12-17 691
http://www.sohu.com/a/340981493_129720
探索高效文本纠错：BertBasedCorrectionModels开源项目推荐
最新发布
gitblog_00415的博客
08-15 944
探索高效文本纠错：BertBasedCorrectionModels开源项目推荐 项目地址:https://gitcode.com/gh_mirrors/be/BertBasedCorrectionModels 在自然语言处理（NLP）领域，文本纠错是一个关键且实用的应用。随着深度学习技术的不断进步，基于BERT的模型在文本纠错方面展现出了卓越的性能。今天，我们将深入介绍一个基于BERT的文本纠错...
bert_for_corrector:基于bert进行中文文本纠错
03-21
BERT模型具有遮罩功能的正确错误字符 实在抱歉，之前做项目比较急，然后没有完全上传完文件，导致大家使用受阻，替换更新有人提醒该模型，近期发生，特意将奉上，提取码为：hhxx另外其中某些得文件也有发表，安心食用。 使用说明 保存预训练模型在数据文件夹下├──数据│├──bert_config.json │├──config.json │├──pytorch_model.bin │└──vocab.txt ├──bert_corrector.py ├──config.py ├──logger.py ├──Forecast_mask.py ├──README.md └──text_utils.py 运行bert_corrector.py可以进行bert_corrector.py 。 python bert_corrector.py 运行'predict_mask.py'可以直接观察用[m
【GPT】文本生成任务（生成摘要、文本纠错、机器翻译等的模型微调）
发现问题，并解决问题，批判性思维
04-25 6336
note 文章目录note一、NLG任务二、NLG之文本摘要2.1 基于mT5的文本摘要2.2 基于openai接口测试2.3 基于chatGPT接口三、根据自己的数据集进行模型微调四、文本纠错任务五、机器翻译任务Reference 一、NLG任务 NLG：自然语言生成任务，很多NLP任务可以被描述为NLG任务，如经典的T5模型（text to text transfer transformer模型）就是NLG模型，如文本纠错任务，输出正确的文本描述、智能问答根据一定背景进行推理，然后回答。 # 安装一些必
【Transformers】第 5 章：微调文本分类的语言模型
sikh_0529的博客
11-03 3129
在本章中，我们将学习如何为文本分类配置预训练模型，以及如何对其进行微调以适应任何文本分类下游任务，例如情感分析或多类分类。我们将使用众所周知的数据集，例如 GLUE，以及我们自己的自定义数据集。我们可以使用回归模型来解决这类问题，其中输出的类型是数字的，而不是分类的。总而言之，我们讨论并进行了使用 Trainer 的微调单句分类、使用本地 PyTorch 没有 Trainer 的情感分类、单句多类分类和微调句对回归。我们还将使用不同的数据集。但是，在本节中，我们将从头开始微调预训练模型，以了解幕后情况。
transformer bert微调实例---细节解读
王小二的博客
12-22 2732
源码来源：https://github.com/huggingface/transformers/tree/master/examples/pytorch/text-classification 代码解读 #!/usr/bin/env python # coding=utf-8 """ Finetuning the library models for sequence classification on GLUE.""" # You can also adapt this script on your
BERT 模型微调实战：使用Transformers微调BERT模型实现问答和文本分类任务
FrenzyTechAI的博客
07-27 1万+
BERT（Bidirectional Encoder Representations from Transformers）是一种预训练的自然语言处理模型，由Google于2018年发布。BERT模型的核心是Transformer编码器，它可以在大规模语料库上进行无监督预训练，然后通过微调在各种NLP任务上进行微调。BERT模型是一种双向的深度学习模型，它可以同时考虑上下文中的所有单词，从而更好地理解句子的含义。BERT模型已被证明在多项NLP任务上取得了最佳结果，包括问答、文本分类、命名实体识别等。
自然语言处理——基于预训练模型的方法——第8章 预训练语言模型进阶
谢谢你们的关注
07-09 1441
自然语言处理——基于预训练模型的方法——第8章 预训练语言模型进阶
调用“抱抱脸团队打造的Transformers pipeline API” && 通过预训练模型，快速训练和微调自己的模型
Flying Bulldog 的博客
05-13 6751
本文章根据官方文件总结而成，根据第三方库Transformers and pytorch快速搭建自己的神经网络架构，数据集包括语音、文字、图像等，实用性非常强！使用预训练模型有很多好处。 它降低了计算成本和碳足迹，并允许您使用最先进的模型，而无需从头开始训练。 🤗 Transformers 为各种任务提供了对数千个预训练模型的访问。 当您使用预训练模型时，您可以在特定于您的任务的数据集上对其进行训练。 这被称为微调，一种非常强大的训练技术。 在本教程中，您将使用您选择的深度学习框架微调预
【NLP实践】使用Pytorch进行文本分类——BILSTM+ATTENTION
热门推荐
黑白象
07-02 2万+
目录网络结构代码实现模型效果 网络结构 代码实现 class TextBILSTM(nn.Module): def __init__(self, config:TRNNConfig, char_size = 5000, pinyin_size = 5000): ...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值