[暑期实训] 任务记录 2021-07-06

最新推荐文章于 2021-07-29 16:23:34 发布
最新推荐文章于 2021-07-29 16:23:34 发布
阅读量110 收藏
点赞数
分类专栏： 暑期实训
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Marginitor/article/details/118556701
版权
该博客探讨了实体识别任务中的一种模型架构，即BERT结合双向长短期记忆网络(BiLSTM)和条件随机场(CRF)。选用科大讯飞的chinese-bert-wwm-ext模型进行文本嵌入，通过Pytorch的rnn库实现BiLSTM，并依据官方文档构建CRF层。文章详细介绍了每个组件的作用及其在实体识别中的应用。
摘要由CSDN通过智能技术生成

目录

摘要

  1. 确定实体识别的模型
  2. 确定实体模型的实现方法

BERT

经过反复对比，最终决定选用科大讯飞制作的chinese-bert-wwm-ext模型对文本进行Embedding操作，将文本嵌入为字向量序列。

BiLSTM

使用Pytorch的rnn库中的lstm模型。

CRF

按照pytorch官方文档提供的示例进行编写。

Marginitor
关注
专栏目录
从jieba分词到BERT-wwm——中文自然语言处理（NLP）基础分享系列（12）
weixin_49518391的博客
09-22 2815
今天是本系列的最后一期，完整代码呈现Huggingface transformers平台上微调BERT-wwm-ext的过程方法。
【深度学习】BERT变体—BERT-wwm
Dong_ZH的博客
03-06 8235
BERT-WWM对Bert的改进主要体现在mask的方式上，使用全词mask。其改进点如下：BERT-WWM不仅仅是连续mask实体词和短语，而是连续mask所有能组成中文词语的字。具体做法是，针对中文，如果一个完整的词的部分字被mask，则同属该词的其他部分也会被mask，即对组成同一个词的汉字全部进行Mask，即为全词Mask。这样做的目的是：预训练过程中，模型能够学习到词的语义信息，训练完成后字的embedding就具有了词的语义信息了，这对各类中文NLP任务都是友好的。
[暑期实训] 任务记录 2021-07-08
Marginitor的博客
07-13 60
目录摘要清洗 摘要 编写数据集清洗程序 清洗 目前的思路是逐个找出数据集中无法被tokenize的字符，维护成一个字符集，并将其在数据中删除，但是实际来看需要删除的字符集很大，难以人工筛选出来，因此需要寻找其他方案。 ...
[暑期实训] 任务记录 2021-07-07
Marginitor的博客
07-07 92
目录摘要问题 摘要 为模型与处理数据 分别编写、调试模型 测试模型之间数据是否能正确流通 问题 BERT模型最长仅支持512长度的文本，需要对输入数据进行进一步的处理
[暑期实训] 任务记录 2021-07-20
Marginitor的博客
07-22 68
目录摘要 摘要 处理服务器问题 训练、调整模型
[暑期实训] 任务记录 2021-07-27
Marginitor的博客
07-29 70
目录摘要 摘要 修改ppt，准备答辩
[暑期实训] 任务记录 2021-07-28
Marginitor的博客
07-29 61
目录摘要 摘要 录制、剪辑项目介绍视频，准备答辩。
[暑期实训] 任务记录 2021-07-26
Marginitor的博客
07-29 59
目录摘要 摘要 制作ppt，模拟答辩
[暑期实训] 任务记录 2021-07-19
Marginitor的博客
07-22 74
目录摘要服务器 摘要 配置GPU服务器 训练、调整模型 服务器 目前使用的是华为云提供的鲲鹏服务器，但是在使用Xmanager访问后遇到了诸多问题，尚未完全解决。
贪吃蛇暑期实训总结报告.docx
06-22
2. **实训任务**： - 分析实训题目需求 - 理解实训内容 - 编写和调试代码 - 设计用户友好的软件界面 - 完成课程设计报告并准备答辩 3. **开发环境**： - 使用的硬件是一台运行正常的计算机 - 操作系统为...
大学暑期电子实训报告焊接收音机.docx
11-10
本报告为大学电子实训报告，涵盖了实习目的、实习要求、实习任务、实习日志、实习总结等方面的内容，涉及到焊接技术、超外差式收音机的工作原理、电子设备的装配和调试方法等多个方面的知识点，为电子实训和电子工程...
2021-7-20 山东大学软件学院暑期项目实训日志-第四周 01
qq_44802115的博客
07-26 318
目录 1、全卷积网络（FCN）的简单介绍 1.1、CNN与FCN的比较 2、FCN上采样理论讲解 2.1、双线性插值上采样 2.2、反卷积上采样 2.3、反池化上采样 1、全卷积网络（FCN）的简单介绍 1.1、CNN与FCN的比较 CNN: 在传统的CNN网络中，在最后的卷积层之后会连接上若干个全连接层，将卷积层产生的特征图（feature map）映射成为一个固定长度的特征向量。一般的CNN结构适用于图像级别的分类和回归任务，因为它们最后都期望得到输入图像的分类的概率，如ALexN
python实训报告万能模板_实训报告万能模板1000字
weixin_39729837的博客
11-28 4307
实训报告是指包含实训目的，实训环境，实训原理，实训过程，实训结果，实训总结等方面内容的书面汇报材料，类似于理科课程的实验报告。实训报告主要用于加深学员对知识和技能的理解和认识。实训报告万能模板这一周的实训时间已经结束，通过这一周的审计学实训，我受益匪浅，以下是对审计大作业的总结以及一些自己的心得体会。一、实训的意义。我们都清楚审计学是一门实践性很强的课程。我们只依赖理论知识是不够的，它更需要的是利...
5116-微信小程序电影院订票选座系统设计及实现+ssm（源码+数据库+lun文）.zip
09-15
本系统主要针对计算机相关专业的正在做毕业设计的学生和需要项目实战练习的学习者，可作为毕业设计、课程设计、期末大作业。本系统主要针对计算机相关专业的正在做毕业设计的学生和需要项目实战练习的学习者，可作为毕业设计、课程设计、期末大作业。本系统主要针对计算机相关专业的正在做毕业设计的学生和需要项目实战练习的学习者，可作为毕业设计、课程设计、期末大作业。本系统主要针对计算机相关专业的正在做毕业设计的学生和需要项目实战练习的学习者，可作为毕业设计、课程设计、期末大作业。
JavaScript 中的 `Array.prototype.filter` 方法全解析
09-15
在 JavaScript 编程中，处理数组是一项基本而重要的任务。数组的过滤操作是其中的一个常见需求，Array.prototype.filter 方法为此提供了强大的支持。本文将深入探讨 Array.prototype.filter 方法的工作原理、使用场景、代码示例以及与其他数组方法的比较。 Array.prototype.filter 是 JavaScript 中处理数组的强大工具，它允许开发者以声明式的方式轻松筛选出符合特定条件的元素。通过结合使用 Array.prototype.filter 和其他数组方法，可以解决各种复杂的数据筛选问题。 通过本文的详细介绍和示例代码，你应该能够掌握 Array.prototype.filter 的工作原理，并能够在实际开发中灵活运用它来处理数组数据。此外，了解其与 Array.prototype.map 和 Array.prototype.reduce 的结合使用，可以帮助你更好地编写高效且易于维护的代码。
5108-微信小程序的书橱+ssm（源码+数据库+lun文）.zip
09-15
本系统主要针对计算机相关专业的正在做毕业设计的学生和需要项目实战练习的学习者，可作为毕业设计、课程设计、期末大作业。本系统主要针对计算机相关专业的正在做毕业设计的学生和需要项目实战练习的学习者，可作为毕业设计、课程设计、期末大作业。本系统主要针对计算机相关专业的正在做毕业设计的学生和需要项目实战练习的学习者，可作为毕业设计、课程设计、期末大作业。本系统主要针对计算机相关专业的正在做毕业设计的学生和需要项目实战练习的学习者，可作为毕业设计、课程设计、期末大作业。
5046-微信小程序校园二手交易平台的小程序+ssm（源码+数据库+lun文）.zip
09-15
本系统主要针对计算机相关专业的正在做毕业设计的学生和需要项目实战练习的学习者，可作为毕业设计、课程设计、期末大作业。本系统主要针对计算机相关专业的正在做毕业设计的学生和需要项目实战练习的学习者，可作为毕业设计、课程设计、期末大作业。本系统主要针对计算机相关专业的正在做毕业设计的学生和需要项目实战练习的学习者，可作为毕业设计、课程设计、期末大作业。本系统主要针对计算机相关专业的正在做毕业设计的学生和需要项目实战练习的学习者，可作为毕业设计、课程设计、期末大作业。
SMT小型视觉贴片机控制系统源码源代码图纸 DI
最新发布
09-15
SMT小型视觉贴片机控制系统源码源代码图纸 DI
Cocos暑期实训：BallsVsBlocks项目详解与关键知识点
在"Cocos暑期实训 - BallsVsBlocks.pptx"的技术文档分享中，这个实训项目旨在引导学生通过实践学习Cocos2d-x游戏开发框架，一个流行的2D游戏开发工具。该项目的核心是制作一个名为"BallsVsBlocks"的游戏，玩家需要...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值