今年遇到的一些比较好的文本分类的方法的总结

最新推荐文章于 2022-12-19 18:05:30 发布
最新推荐文章于 2022-12-19 18:05:30 发布
阅读量1k 收藏 13
点赞数 3
分类专栏： nlp 文章标签： 文本分类总结
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_16949707/article/details/112006781
版权

1. 打破BERT天花板：11种花式炼丹术刷爆NLP分类SOTA！

原文：https://mp.weixin.qq.com/s/xkEmfuFw_Q7GWGUviZDp4w

  • 标签体系
    在这里插入图片描述
  • 一些特征提取方式
    在这里插入图片描述
  • 预训练特征
    在这里插入图片描述
  • 数据蒸馏
    在这里插入图片描述

2. 实战必备！文本分类中的一些经验和 tricks

在文本分类任务中，有哪些论文中很少提及却对性能有重要影响的tricks？
各路神仙打架

  • 包大人
  • 夕小瑶
  • 等

3. SMP2020微博情绪分类比赛总结

SMP2020微博情绪分类比赛总结
总结一下：

  • 预训练
  • 模型融合
  • embedding+各式各样的模型变种
  • 各种ppt可以直接下载= =

4. 【代码+经验】阿里云tianchi新闻文本分类大赛rank4分享

  • 原文讲解：原文

  • 代码资源：https://github.com/KOF-hello/rank4_NLP_textclassification

  • 总体思想

    • 自己预训练了多个词向量，包括word2vec，glove等，自己平时也可以参考。
    • 自己预训练了bert，但是数据量不大，bert和其他预训练拉不开太大区别。
    • 融合，融合感觉在文本分类中，提升还是比较明显的，模型尽可能不同，然后精度尽量高，融合起来效果才会越好。
      在这里插入图片描述

  • 提到的一些trick
    在这里插入图片描述

HxShine
关注
  • 3
    点赞
  • 踩
  • 13
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
自然语言处理技术在文本分类和实体识别中的应用
程序员光剑
07-21 2604
作者：禅与计算机程序设计艺术 自然语言处理（NLP）是研究如何从非结构化或半结构化的自然语言中提取有用信息并使之易于理解、分析和使用的方法。从事NLP相关工作的工程师通常称之为自然语言处理专家或语言科学家。NLP技术在电子商务、机器翻译、智能客服、网络情感分析等领域都得到了广泛应用。NLP也是一个重要的研究热点，涉及到多种学科，如信息检索
超详细的 Python 方法、函数总结
热门推荐
Amo Xiang的博客
05-17 3万+
目录阅读前必读（不看会错过一个亿）一、字符串操作1.1 capitalize() 方法——字符串首字母转换为大写1.2 casefold() 方法——所有大写字符转换为小写1.3 center() 方法——字符串居中填充1.4 count() 方法——统计字符串出现次数1.5 encode() 方法——编码字符串1.6 decode() 方法——解码字符串1.7 endswith() 方法——是否以指定子字符串结尾、startswith() 方法1.8 find() 方法——字符串首次出现的索引位置(rfi
几种算法的中文文本分类方法实现
07-14
基于支持向量机、决策树、KNN、随机森林、朴素贝叶斯这几种算法的中文文本分类方法实现，包含语料（训练集、测试集）
文本分类的方法
zephyr_wang的博客
05-22 549
1 TFIDF+树模型： 树模型：xgboost、lightgbm、catboost 除了tfidf等，也可以加入其他特征 2 词向量+神经网络 词向量：doc2vec、embedding等 神经网络有： TextCNN ：卷积神经网络 LSTM LSTM+Attetnion 除了doc2vec等，也可以加入其他特征，如tfidf 3 BERT+finetune微调 ...
文本分类方法综述
u010859324的博客
07-31 7050
本文主要总结文本分类的方法。 文本分类的本质是文本相似性的度量、计算。
文本分类课件_BERTflowCMUx字节推出简单易用的文本表示新SOTA！
weixin_39636245的博客
12-03 168
因为工作和个人信仰的关系，我一直比较关注文本表示的进展。召回是很多NLP系统中必备的一步，而向量化的召回比纯基于文字的离散召回效果更好更合理。同时文本表示还可以做很多事情，比如聚类、分类，不过更多地还是用在文本匹配上。2015年到18年间有很多优秀的文本表示模型，祭出宝图：但基于交互的匹配模型明显优于单纯的表示，再加上BERT出来，就很少有人再去研究了，2019年只有一个Sentence...
文本分类方法总结
weixin_37409506的博客
08-22 4280
背景 此文是对NLP文本分类文章的个人知识盲点补充。此文总结类，传统文本分类方法，深度学习文本分类，词向量三种方式的常用文本分类方法，并配上足够的代码，是不可夺得的好文。 Multi class log loss 对数损失函数主要用于对分类器的准确度进行量化。分类器需要提供对输入的所属的每个类别的概率值。 L(Y,P(Y∣X))=−log⁡P(Y∣X)=−1N∑i=1N∑j=1Myijlog⁡(p...
文本分类小结
gfangyao的博客
04-25 727
    分类问题的定义：给定一个数据集，称为训练数据集，每个训练样本都是由属性值或特征值构成的特征向量，而且每个训练样本还有一个类标号属性，可表示为（v1,v2,…vn；c），v表示属性值，c表示类标号。     文本分类是自然语言处理领域的一个重要研究方向，是指计算机将载有信息的一篇文本映射到预先给定的某一类别或某几类别主题的过程。文本分类问题与其他分类问题没有本质上的区别，方法可以归结为根据分类数据的某些特征来进行匹配，当然完全的匹配不太现实，因此必须根据模型选择
D.1应用实践：Paddle分类模型大集成者[PaddleHub、Finetune、prompt]
丨汀、的博客
07-23 1万+
本示例数据集是由清华大学提供的新闻文本数据集THUCNews。THUCNews是根据新浪新闻RSS订阅频道2005~2011年间的历史数据筛选过滤生成，包含74万篇新闻文档（2.19GB），均为UTF-8纯文本格式。我们在原始新浪新闻分类体系的基础上，重新整合划分出14个候选分类类别财经、彩票、房产、股票、家居、教育、科技、社会、时尚、时政、体育、星座、游戏、娱乐。├──data数据目录训练集数据验证集数据测试集数据b.设置文件格式和内容。c.加载自定义数据集。#方法一BERT初始化。.........
初学文本摘要——综述报告
qq_45154565的博客
10-20 3215
** 本报告是本人在自学自然语言处理文本摘要方向初期研读综述性论文、博客、网站等后总结的综述报告。 ** 主要内容： 1)文本摘要简介（是什么？） 2)文本摘要现状（怎么样？） 3)文本摘要分类（有哪些？） 4)文本摘要主要技术 5)附页 一、 文本摘要简介（是什么？） 文本摘要是指通过各种技术，对文本或者是文本的集合，抽取、总结或是精炼其中的要点信息，用以概括和展示原始文本的主要内容或大意。随着互联网产生的文本数据越来越多，文本信息过载问题日益严重，对各类文本进行一个“降维”处理显得非常必要，文本摘要便是
ChineseNLP：中文NLP各领域的数据集，SOTA结果
02-03
ChineseNLP：中文NLP各领域的数据集，SOTA结果
Diffusion Models专栏文章汇总：入门与实战
沉迷单车的追风少年
02-21 3万+
《Diffusion Models与深度学习》专栏文章导航
神经网络二分类输出概率,神经网络二分类预测
super67269的博客
09-16 2091
！支持向量机SVM ( Support Vector Machines)是由Vanpik领导的ATTBell实验室研究小组在1963年提出的一种新的非常有潜力的分类技术, SVM是一种基于统计学习理论的模式识别方法，主要应用于模式识别领域.由于当时这些研究尚不十分完善,在解决模式识别问题中往往趋于保守,且数学上比较艰涩,因此这些研究一直没有得到充的重视.直到90年代,一个较完善的理论体系—统计学习理论 ( StatisticalLearningTheory,简称SLT) 的实现和由于神经网络等较新兴的机器学
文本分类优化方法
最新发布
狮子座明仔知识集散场
12-19 2241
文本分类是NLP的基础工作之一，也是文本机器学习中最常见的监督学习任务之一，情感分类，新闻分类，相似度判断、问答匹配、意图识别、推断等等领域都使用到了文本分类的相关知识或技术。文本分类技术在机器学习的发展过程中也不断的进行技术迭代，在开始介绍文本分类优化方法之前，我们先介绍文本分类的技术发展，有助于我们了解文本分类的技术痛点以及文本分类的技术方向。
中文文本分类（基于Pytorch）
sikh_0529的博客
09-14 1万+
我从THUCNews中抽取了20万条新闻标题，文本长度在20到30之间。一共10个类别，每类2万条。搜狗新闻 Word+Character 300d。类别：财经、房产、股票、教育、科技、社会、时政、体育、游戏、娱乐。
顶会SOTA算法开源，GitHub标星3.7K！这个NLP项目价值百万！
fengdu78的博客
05-19 422
近两年，Prompt范式已经成为NLP研究的第四范式，基于Prompt的小样本能力，吸引了学术界和产业界的广泛研究。近日，百度飞桨PaddleNLP开源基于Prompt的信息抽取技术，以及更多产业落地能力：通用信息抽取统一建模技术UIE开源！文心大模型ERNIE轻量级模型及一系列产业范例实践开源！01通用信息抽取在金融、政务、法律、医疗等众多行业中，大量文档信息需要进行数...
日志分类存放_博特智能|文本智能聚类——千万日志一览无余
weixin_29885875的博客
12-30 417
对于海量文本型数据比如日志，如何从中提取日志模式以便更快地从文本中获取关键信息。本文先简单介绍了行业竞品的相关产品形态，然后重点介绍了一种基于机器学习的日志智能聚类解决方案——基于图结构的聚类方法。目录1. 价值收益1.1. 背景1.2. 目标1.2.1. 直接目标1.2.2. 间接目标2. 产品形态2.1. 学术科研2.2. 行业竞品日志服务3. 技术框架——基于图结构的聚类方法3.1. 流程框...
常见NLP任务以及对应的数据集和SOTA结果
qq_38824043的博客
09-04 2475
参考网址：https://nlpprogress.com/
自然语言处理NLP文本分类顶会论文阅读笔记（一）
我这个代码你能看懂吗？
03-09 3401
NLP学习笔记
NLP实践：Embedding、CNN、RNN在文本分类中的应用
在文本分类中，首先遇到的关键步骤是单词表示。传统的词表示方法，如one-hot编码，虽然直观，但它创建的向量非常稀疏，导致词汇间的相似性无法有效衡量。因此，更先进的方法被引入，如基于矩阵分解的技术，尽管它们...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值