3天深入浅出NLP笔记（五）比赛总结-竞赛干货全复盘

最新推荐文章于 2021-12-21 12:00:00 发布
最新推荐文章于 2021-12-21 12:00:00 发布
阅读量207 收藏 1
点赞数 1
分类专栏： NLP自然语言处理
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_37486501/article/details/114113999
版权

3天深入浅出NLP笔记（五）竞赛干货全复盘

知识点总结

在这里插入图片描述
Baseline构建（BERT模型）
模型调参
数据增强
迁移学习、指标优化
模型融合
在这里插入图片描述
Bert原理（输入、输出、多少层组成）
模型组合
调参技巧、指标优化
数据增强、伪标签
模型融合
在这里插入图片描述

其他比赛方案

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

面试相关问题

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
bert4keras：包可利用。
stacking方式融合

Stacking方案

多个模型做Stacking。五折：数据跑五次。
在这里插入图片描述
手动加权：
在这里插入图片描述

NLP入门

词（分词jieba）、句、文档
文本分类、文本匹配、机器翻译、事件抽取、信息抽取、机器阅读理解
bert4keras：包

Laura_Wangzx
关注
  • 1
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
山东第三届数据应用大赛网格事件智能分类赛题复盘及总结Rank11
qq_38957497的博客
01-21 717
第三届数据应用大赛Rank11–网格事件智能分类赛题复盘 成绩：11名 / 258名 得分：0.774688 比赛连接：http://data.sd.gov.cn/cmpt/cmptDetail.html?id=67 前言 第二次参加文本分类赛题比赛，一个多月的时间，想着把一些学习到的方法trick用到竞赛中，看一下实际的效果，不断完善自己形成的代码框架，虽然最后的成绩一般，也确实跟队友学习到了一些上分技巧，下文对个人对赛题的理解以及思路进行分享。 赛题任务 出题方目的是实现城市的网格化管理：基于网格事
文本上的算法深入浅出自然语言处理-2018.pdf
06-04
本书结合作者多年学习和从事自然语言处理相关工作的经验，力图用生动形象的方式深入浅出地介绍自然语言处理的理论、方法和技术。本书抛弃掉繁琐的证明，提取出算法的核心，帮助读者尽快地掌握自然语言处理所必备的...
NLP比赛心得
baihuang2797的博客
08-02 548
现如今，深度学习方法成了解决nlp任务的首选方案，比如textCNN、LSTM、GRU、BiLSTM、Attention、BERT等等。当然，有的nlp任务也可以用机器学习方法去解决，至于哪种任务用哪种方法，需要我们根据实际情况去选择。就目前我接触到的nlp赛题任务有，文本分类、情感分析、关系抽取、文本匹配、阅读理解、问答系统等等，比如针对文本二分类任务，我们可以把CNN、LSTM、At...
分享中文NLP比赛的经验
weixin_43528564的博客
04-16 364
数据预处理 枯燥而必须做的三部曲：检查缺失值，文本去重，去噪。 其中文本的噪声一般有： 如“\xa0”、“\t”、“\n”等特殊字符。 网址。如“https://baidu.com/”等。 日期。如“XXXX 年 X 月 X 日”等。 地名。如带有“A 市”、“A8 县”，“B4 区”等英文单词为开头的地名。 首尾冗余。如“您好！”、“谢谢！”等这些没有价值的字样。 在分词后利用正则表达式选择保留数据集中的文字、标点、数字符号。 分词技术 首先，需要考虑将要用词向量还是字向量喂给模型。 词向量。先去找
NLP算法竞赛心得
说文科技，做有态度的研究。
09-14 683
结合自身案例详细解释深度学习算法竞赛中的主要步骤，并给出一些坑点。
2020年研究生数学建模竞赛总结复盘
长安过客君的博客
09-21 6263
文章目录一、前言二、赛题选择三、做题思路问题一、数据清洗问题二、数据降维问题三、建模预测问题四、分析模型预测结果与实际值问题五、可视化四、总结 一、前言 今天是2020年研究生数学建模竞赛的最后一天，今早五点半提交了论文的MD5，一会提交论文。昨晚，啊不，今早通宵和室友赶完了论文，分析完所有的数据，调整了所有的表格和格式，历时五天总算是结束了。这篇文章作为一篇参加完比赛后的总结和复盘，记录一下期间出现的问题、第一次参加比赛的感受和不足。 二、赛题选择 由于和室友我们三个都是第一次参加研究生数学建模，总体
nlp-competitions-list-review:复盘所有NLP比赛的TOP方案，只关注NLP比赛，持续更新中！
04-30
建立一个只专注于NLP比赛的方案分享讨论的项目，讨论时期不限，可包括赛前分析，赛中讨论，赛后复盘，其中以赛后复盘为主。 内容 讨论比赛平台，赛题背景，数据格式，主要思路，技术实现，模型设计，框架选择，评估...
NLP-Notebooks-Newspaper-Collections:用于自然语言处理的笔记本集合
03-31
用于报纸收藏的NLP笔记本 用于自然语言处理的笔记本集合 ... 通过使用自然语言处理（NLP），文本分类器可以自动分析文本，然后根据研究问题分配一组给定的类别。 将文本自动分类为预定义的类别是管理和处理大量报
《文本上的算法深入浅出自然语言处理》
07-07
《文本上的算法深入浅出自然语言处理
天池NLP新闻文本分类学习赛心得-Task1
weixin_46281427的博客
07-21 210
天池NLP新闻文本分类学习赛心得-Task1 赛题链接：https://tianchi.aliyun.com/competition/entrance/531810/introduction 赛题数据类似于这样： 官方将文本数据进行匿名化，防止人为标注数据，我认为这是个蛮好的决策，感觉我大概率需要以一种模糊的状态去对待它，由于样本量大，所占内存也大，用正常的pd.read_csv()方法读取稍微费时，假象以下，每次需要花半分钟读取数据，难受嘛？我是挺难受的。 所以我在第一次读取的时候就把他转存为.pk
nlp比赛篇
sjyttkl的专栏
08-02 788
https://github.com/zhpmatrix/nlp-competitions-list-review（可以参考，但是实时性不太好） https://blog.csdn.net/tcx1992/article/details/86555278
天池NLP新闻文本分类学习赛心得-Task6
weixin_46281427的博客
08-04 321
天池NLP新闻文本分类学习赛心得-Task6 赛题链接：https://tianchi.aliyun.com/competition/entrance/531810/introduction 这一次task使用的深度模型为 BERT，模型强悍到不用太深层的了解NLP原理就能够有着良好的训练结果，对于这一次新闻文本分类学习赛亦是如此。 BERT原理： 特征提取器 Transformer Encoder，特征提取器，由Nx个完全一样的layer组成，每个layer有2个sub-layer，分别是：Mult
美赛中学习NLP文本情感分析总结
苣篛
06-28 839
目录前提数据清洗分词为什么要分词英文分词遇到的问题使用NLTK进行分词情感分析局限性后记 前提 文中基于的论文：《卷烟在线评论的文本情感分析》 杨春晓，张鹤馨，黄家雯，万江平．卷烟在线评论的文本情感分析．中国烟草学报. http://kns.cnki.net/kcms/detail/11.2985.ts.20200121.1622.018.html 美赛过去之后，2020年的B题即用到了这个知识，当时没有深入学习，现在从头学习一下NLP文本情感分析。（完全小白） 论文中基于卷烟的文本评论提炼出有效的消费者体
【数据竞赛】NLP竞赛中99%上升的技巧！
fengdu78的博客
12-21 349
作者：杰少强化Transformer的语意表示的策略简介在诸多NLP等的问题中，我们会使用预训练模型并在其最后一层进行微调，例如我们就会经常采用下面的微调方式：在Transformer之后...
世界人工智能大赛方案汇总（nlp，cv）
Datawhale
05-09 913
Datawhale学习开源贡献者：阿水、致Great、姚程栋、卜首等有同学希望通过今年的世界人工智能大赛来提升专业能力，同时增加履历，拿到这次赛事的直推offer。根据大家反馈遇到的...
NLP比赛
升级迭代
09-17 143
https://www.biendata.xyz/ 让人眼花缭乱的比赛 一个数据竞赛社区，推荐给大家
TNEWS今日头条中文新闻（短文本）分类
Wangzx的博客
01-03 5238
数据分析： 数据分布情况：占比例多少 文本 ：一句话多长。截断处理。 平均50个字<=110词。(分完词的长度) 多分类： (代码可复现) 方法一：6个二分类器。一条句子分别跑6个模型，分最高，选哪个。（效果好） 方法二：一个模型直接预测出属于哪类。 决策树，SVM， TNEWS’ 今日头条中文新闻（短文本）分类 Short Text Classificaiton for News 数据集来自今日头条的新闻版块，共提取了15个类别的新闻，包括旅游，教育，金融，军事等。 数据量：训练集(53,360
TF-IDF在sklearn中TfidfVectorizer的使用
Wangzx的博客
01-07 4077
TF-IDF 以下内容部分摘录于百度百科。 什么是TF-IDF？ TF-IDF（term frequency–inverse document frequency）是一种用于信息检索与数据挖掘的常用加权技术。TF是词频(Term Frequency)，IDF是逆文本频率指数(Inverse Document Frequency)。 TF-IDF的原理： TFIDF的主要思想是：如果某个词或短语在一篇文章中出现的频率TF高，并且在其他文章中很少出现，则认为此词或者短语具有很好的类别区分能力，适合用来分类。 T
深入浅出Transformer 二
最新发布
03-08
Transformer是一种用于自然语言处理和机器翻译等任务的重要模型。它由Google在2017年提出，并在机器翻译任务中取得了显著的突破。 Transformer模型的核心思想是自注意力机制（self-attention），它能够在输入序列中...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Laura_Wangzx

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值