![](https://img-blog.csdnimg.cn/086bcb5a81274a6daf2932a56f2a7367.png?x-oss-process=image/resize,m_fixed,h_224,w_224)
文本分类
文章平均质量分 78
1文本分类是指将文本按照其内容或主题进行分类的任务。它是自然语言处理中的一项重要任务,被广泛应用于文本挖掘、信息检索、情感分析、垃圾邮件过滤等领域。
征途黯然.
Hold me hard and mellow.
展开
-
【多标签文本分类】代码详解Seq2Seq模型
·阅读摘要: 本文提出经典的Seq2Seq模型,应用于机器翻译领域。但是Seq2Seq适用于很多领域,比如多标签文本分类。·参考文献: [1] Sequence to Sequence Learning with Neural Networks【注一】:本论文提出的Seq2Seq模型,引发一系列基于Seq2Seq模型的文章问世。地位类似于2014年Kim发表的TextCNN,2017年Google发表的Transformer。【注二】:论文的内容比较简单,重点都是在讲解Seq2Seq.原创 2022-02-23 20:40:55 · 2990 阅读 · 0 评论 -
【论文写作分析】之二 《基于类别混合嵌入的电力文本层次化分类方法》
·阅读摘要: 在本文中,提出了模型HONLSTM-BERT,我觉得亮点有二:一是提出把标签的类别嵌入、标签的语义嵌入、文本三者混合,二是提出的层级模型中共享了一部分参数,并不是每个层级就是一个独立的模型。·参考文献: [1] 基于类别混合嵌入的电力文本层次化分类方法【注一】:从论文贴出来的准确率(下图)来看,我觉得论文提出的模型相比于TextCNN、DPCNN这些baseline,还是吃了BERT的“红利”。 HONLSTM-BERT模型 模型图如下所示: 模型还是比较一目.原创 2022-03-19 18:44:50 · 978 阅读 · 0 评论 -
【文本分类】基于类信息的TF-IDF权重分析与改进
摘要:改进TFIDF,增加了类间因子、类内因子,应用于文本的特征选择,提高了精度 。参考文献:[1]姚严志,李建良.基于类信息的TF-IDF权重分析与改进[J].计算机系统应用,2021,30(09):237-241.一、引言 权重计算的方法多种多样, 常用的包括文档频率、信息增益、互信息、卡方分布、TF-IDF 等。 二、基础算法2.1、TF-IDF算法【词频-逆文档频】 可以与sklearn中提供的TF-IDF方法TfidfVectorizer结合介绍。 1、 如上图,TF-.原创 2021-11-10 16:18:24 · 3158 阅读 · 6 评论 -
【多标签文本分类】《多粒度信息关系增强的多标签文本分类》
【注】现在全网对多标签文本分类的相关工作都是:基于深度学习或者基于机器学习,其中基于机器学习算法的分类方法主要包括问题转换和算法自适应。本文提出的方法:介绍本文提出的增强多维信息关系的多标签文本分类方法,包括文本-标签联合嵌入方法、多粒度学习模块、标签约束关系匹配辅助模块等。3、文中第三个模块:标签约束性关系匹配辅助模块,介绍的很不清楚,而且我无法想通这个模块在模型验证、预测阶段要怎么办?基于深度学习的多标签文本分类:介绍使用深度神经网络进行多标签文本分类的方法,并指出其中存在的问题。原创 2023-04-01 18:29:32 · 3077 阅读 · 3 评论 -
【多标签文本分类】Semantic-Unit-Based Dilated Convolution for Multi-Label Text Classification
·阅读摘要: 在本文中,作者基于Seq2Seq模型,提出多级膨胀卷积、混合注意力机制两点来加以改进,应用于多标签文本分类,提高了效果。·参考文献: [1] Semantic-Unit-Based Dilated Convolution for Multi-Label Text Classification [2] Seq2Seq模型讲解,参考博客:【多标签文本分类】代码详解Seq2Seq模型 本篇论文写的比较好,条理清晰,一环扣一环,层层递进深入,有借鉴意义。【注一】:本文的题目是.原创 2022-03-01 19:42:22 · 992 阅读 · 0 评论 -
【BERT-多标签文本分类实战】之六——数据加载与模型代码
前5篇文章中,介绍了实战项目的前置知识,下面正式介绍项目的代码。对于每一条文本,先提取它的标签,然后转化成独热数组。这个完全是自定义的数据加载器,直接用就可以,不展开介绍。到这里,数据加载的部分就结束了。在第二节中,只是把显式的文本数据,转化成了数字化的。加载数据集的目标是:1)把文本数据转化成。2)把文本标签转化成独热数组。是压缩存储的标签,方便快速读取用的。能够自动帮我们分配好这些文本数据。:模型训练、验证、测试代码。[1] 数据集文件的构成。[1] 数据集文件的构成。:处理数据集并且预加载;原创 2022-09-28 20:05:06 · 5647 阅读 · 6 评论 -
【英文文本分类实战】之五——数据加载
·请参考本系列目录:【英文文本分类实战】之一——实战项目总览·下载本实战项目资源:神经网络实现英文文本分类.zip(pytorch) [1] 加载数据集 在“【英文文本分类实战】之四——词典提取与词向量提取”中,我们准备好了所有的文件。 接着,我们需要对训练集train.csv、验证集dev.csv、测试集test.csv中的每一条文本,先进行数据清洗,接着把每条文本的单词以词典中的序号来替代。代码如下:def build_dataset(config): if os.path.e.原创 2022-02-17 12:17:53 · 1975 阅读 · 0 评论 -
【论文写作分析】之四《基于ALBERT-TextCNN模型的多标签医疗文本分类方法》
论文名称:《基于ALBERT-TextCNN模型的多标签医疗文本分类方法》 发布期刊:《山东大学学报(理学版)》 期刊信息:CSCD 论文写作分析摘要:本文非常简单。网络模型是直接把BERT和TextCNN拼接起来的;亮点在于应用领域的新颖,即医疗文本。本次博客主要来批斗一下这篇论文。【注】:本文感觉没有创新,模型是用BERT的最后一层接上TextCNN,这不是基操嘛。看完这篇刊上CSCD的论文,感觉我现在就能发论文毕业了。 [2] 参考论文分解 这篇论文的模型图: 这就原创 2022-04-08 19:47:26 · 1363 阅读 · 0 评论 -
【多标签文本分类】Improved Neural Network-based Multi-label Classification with Better Initialization ……
·阅读摘要: 提出了一种新的神经网络初始化方法:利用标签共现初始化最终隐藏层。 [1] Improved Neural Network-based Multi-label Classificationwith Better Initialization Leveraging Label Co-occurrence【注一】:重要概念:标签共现:一个文本会有多个标签,这种现象叫做标签共现。标签共现模式:设一个多标签分类数据集有a-z共26个标签,那么a-z的任何一种大于2个标签的组合都可以.原创 2022-02-07 19:05:36 · 1348 阅读 · 0 评论 -
【文本分类】深入理解embedding层的模型、结构与文本表示
深入理解embedding层的模型、结构与文本表示原创 2021-12-09 17:27:19 · 17282 阅读 · 1 评论 -
【多标签文本分类】HFT-CNN: Learning Hierarchical Category Structure for Multi-label Short Text Categorization
·阅读摘要: 本文提出结合基于CNN微调的HFT-CNN模型来解决层级多标签文本分类问题。 [1] HFT-CNN: Learning Hierarchical Category Structure for Multi-label Short Text Categorization【注一】:还有一篇是解决层次结构的多标签分类论文《Initializing neural networks for hierarchical multi-label text classification》阅读博客.原创 2022-02-10 16:43:51 · 1246 阅读 · 0 评论 -
【BERT-多标签文本分类实战】之四——数据集预处理
可以看到,每个文本平均有1.2个标签,相对其他数据集来说,是极低的。:在使用预训练词向量的时候,首先会构建一个词典,然后把文本里面的每个单词逐个转化成词典里面对应的序号,最后根据序号再去预训练词向量里面找对应单词的d维向量,于是一条文本就变成了。除此之外,我们还应该关心数据集平均一个本文有几个标签、最多有几个标签、最少有几个标签,哪些标签出现的比较频繁,这些有助于我们加深对数据集、任务难点的了解。在处理数据集的文本数据前,有必要了解一下使用预处理词向量的模型,是如何处理文本数据的。的文本有3964个。原创 2022-09-27 15:10:35 · 7750 阅读 · 1 评论 -
【多标签文本分类】层次多标签文本分类方法
·阅读摘要: 本文是一篇中文综述,主要介绍了层次多标签分类的一些算法。·参考文献: [1] 赵海燕,曹杰,陈庆奎,曹健.层次多标签文本分类方法[J/OL].小型微型计算机系统. https://kns.cnki.net/kcms/detail/21.1106.TP .20211130.1228.002.html [1] 引言 层次结构的标签一般有两种表示: 两种结构表示的示例图如下: [2] 基本概念 文中提出层级多标签分类的基本处理过程:【注一】:文中提到“特征降.原创 2022-04-06 16:52:40 · 3850 阅读 · 2 评论 -
【文本分类】Recurrent Convolutional Neural Networks for Text Classification
Recurrent Convolutional Neural Networks for Text Classification原创 2021-12-25 20:37:19 · 976 阅读 · 0 评论 -
【文本分类】《短文本分类的ResLCNN模型》
ResLCNN模型以Word2vec和GloVe词向量构成的句子矩阵作为输入,第1层LSTM根据隐藏层和记忆单元获取文本时序特征,随后残差层包含两层 LSTM,接着 CNN层使用多个卷积核进行卷积运算,并提取最优卷积特征通过softmax分类。该模型使用了3层LSTM获取文本的长距离依赖,用CNN通过卷积获取句子局部特征,同时使用了残差模型,在第1层LSTM层与CNN层之间加入恒等映射,构建残差层,缓解深层模型梯度消失问题。本文是2017年提出的,模型较为简单,年份也比较老,感觉没太大的参考价值了。原创 2023-01-08 22:30:34 · 2654 阅读 · 0 评论 -
【BERT-多标签文本分类实战】之三——多标签文本分类的方向与常用数据集介绍
该数据集是来自于亚马逊,其中包括评论(评分,文字,帮助性投票),产品元数据(描述,类别信息,价格,品牌和图像特征)和链接(也可以查看/购买的图表),在做多标签文本分类得时候主要考虑的是类别信息。:是作者收集的由书籍介绍以及层次结构的写作题材组成,共有91892 个文本,四个层级,146 个类别,四个层级分别有 7,46,77,16 个类别。:是由路透社提供的人工新闻分类数据集,有超过 800000 条的数据,共有三个层级,101个类别,三个层级分别有 4,55,42 个类别。如何解决样本少的问题?原创 2022-09-26 20:46:36 · 7637 阅读 · 0 评论 -
【多标签文本分类】SGM: Sequence Generation Model for Multi-Label Classification
·阅读摘要: 本文提出基于SGM模型,在Seq2Seq的基础上提出SGM模型应用于多标签文本分类。论文还提出了很多提升模型表现的细节,这是在Seq2Seq中没有的。·参考文献: [1] SGM: Sequence Generation Model for Multi-Label Classification [2] Seq2Seq模型讲解,参考博客:【多标签文本分类】代码详解Seq2Seq模型 本文的亮点有很多: 1、对训练集的标签处理:高频标签放在前面,进而更好地指导整个标签的输.原创 2022-02-27 20:57:15 · 1708 阅读 · 0 评论 -
【BERT-多标签文本分类实战】之二——BERT的地位与名词术语解释
从零开始建立的NLP模型的一个主要缺点是,我们通常需要一个庞大的数据集来训练我们的网络,以达到合理的精度,但是我们必须投入大量的时间和精力在数据集的创建上。与其实现定制的、有时还很难理解的网络结构来完成特定的任务,不如使用BERT进行简单的微调,也许是一个更好的(至少不会差)选择。finetune(微调)方法指的是加载预训练好的Bert模型,其实就是一堆网络权重的值,把具体领域任务的数据集喂给该模型,在网络上继续反向传播训练,不断调整原有模型的权重,获得一个适用于新的特定任务的模型。...原创 2022-07-29 21:48:41 · 4190 阅读 · 2 评论 -
【BERT-多标签文本分类实战】之五——BERT模型库的挑选与Transformers
在大规模无监督语料上训练得到最终参数之后,是要把参数保存下来,之后有新的数据集要跑的时候,我们需要把这些参数数据载入到模型。这个符号有特殊的意义,BERT 包含 12 个 Transformer 层,每层接受一组 token 的 embeddings 列表作为输入,并产生相同数目的 embeddings 作为输出(当然,它们的值是不同的)。在以输入为两个句子的任务中(例如:句子 A 中的问题的答案是否可以在句子 B 中找到),该符号为这两个句子的分隔符。想要深入使用,大家仔细看看上面贴的文档,写得非常好。原创 2022-09-28 11:25:13 · 5762 阅读 · 3 评论 -
【BERT-多标签文本分类实战】之七——训练-评估-测试与运行主程序
采样是指:把模型输出出来的概率,转化成独热数组,通常使用阈值为0.5的阈值函数,即概率大于0.5的标签采样为1,否则为0。也是把一组数据放缩到[0,1]区间,但它更类似于等比例缩放,原来大的数现在还大,可以有多个较大的概率存在,所以。它就是算单标签的损失的,大家去看一下它的公式,它对一个文本只取概率最大的那个标签;具有排斥性,放缩后的一组数据之和为1,所以这样一组标签概率只会有一个较大值;代码还是比较好懂的,但是还是有一个整体能运行起来的项目体验更佳。多标签文本分类任务,用的损失函数是。原创 2022-09-28 20:58:03 · 5591 阅读 · 7 评论 -
【论文写作分析】之三《基于预训练语言模型的案件要素识别方法》
[1] 参考论文信息 论文名称:《基于预训练语言模型的案件要素识别方法》 发布期刊:《中文信息学报》 期刊信息:CSCD 论文写作分析摘要:本文非常典型。首先网络模型是直接用的一篇英论的;亮点仍然在于应用领域的新颖,即案件;其次本文的题目起得不错,要素识别(而不是多标签文本分类);论文的实验部分个人觉得写的非常好,三组对比实验,看起来很充实。、【注】:看完这篇论文,感觉我和论文之间就差一个新颖的领域(数据集)。 [2] 参考论文分解 这篇论文前大部分都比较普通吧。下面是模型图.原创 2022-03-21 19:10:49 · 4508 阅读 · 0 评论 -
【多标签文本分类】《基于标签语义注意力的多标签文本分类》
为了建立标签的语义信息和文档的内容信息之间的联系并加以利用,文章提出了一种基于标签语义注意力的多标签文本分类(LAbel Semantic Attention Multi-label Classification,简称 LASA)方法。每个标签关注文档中的内容是不同的,所以本文提出为每个标签学习不同的文档表示,文档的表示是由每个单词的权重和单词的表示结合得到的,将上一层得到的单词和标签之间的匹配得分乘以每个单词的隐表示,得到每个标签对应的文档表示。文中使用的方法是,把标签中的每个词的向量表示相加取得平均。原创 2023-01-07 16:33:37 · 3350 阅读 · 0 评论 -
【文本分类】《融合后验概率校准训练的文本分类算法》
·阅读摘要: 本文主要提出后验概率校准、负例监督两个创新点,提升了实验精度。·参考文献: [1] 融合后验概率校准训练的文本分类算法 参考论文信息 论文名称:《融合后验概率校准训练的文本分类算法》 发布期刊:《计算机应用》 期刊信息:CSCD扩展 [0] 摘要 目前文本分类存在一定问题: 1、随着模型的准确率越来越高,其预测结果的置信度就不再能匹配高准确率; 2、模型的分类器在为语义相似的文本分配不同标签的情况下性能下降。 论文提出 后验概率校准负例监督模型(.原创 2022-05-02 16:47:03 · 1366 阅读 · 0 评论 -
【文本分类】基于预训练语言模型的BERT-CNN多层级专利分类研究
·阅读摘要: 本文利用BERT的预训练数据,结合CNN,应用于专利分类。由于专利的特性,本文还提出使用多层级方法来增强模型。(文章发表在《中文信息学报》,核心期刊)·参考文献: [1]陆晓蕾,倪斌.基于预训练语言模型的BERT-CNN多层级专利分类研究[J].中文信息学报,2021,35(11):70-79. [0] 引言 提出工业界和学术界产生了大量专利申请,现行《国际专利分类法》包含 “部—类—亚 类—组”四个层级,其中“组”级共含有7万多种类别,人工太难分辨,所以提出用神经网络来分.原创 2022-01-25 14:21:19 · 1655 阅读 · 0 评论 -
【多标签文本分类】BERT for Sequence-to-Sequence Multi-Label Text Classification
·阅读摘要: 本文在已有的SGM和BERT模型上改进,提出了SGM+BERT模型、混合模型。实验证明SGM+BERT模型收敛比BERT快很多,混合模型的效果最好。·参考文献: [1] BERT for Sequence-to-Sequence Multi-Label Text Classification [2] SGM模型讲解,参考博客:【多标签文本分类】SGM: Sequence Generation Model for Multi-Label Classification [3] .原创 2022-04-07 19:30:19 · 1835 阅读 · 0 评论 -
【文本分类】ACT: an Attentive Convolutional Transformer for Efficient Text Classification
·阅读摘要: 本文在Transformer模型的基础上,提出改进方案,把Transformer里面的自注意力机制,改成CNN。·参考文献: [1] ACT: an Attentive Convolutional Transformer for Efficient Text Classification【注】:众所周知,Transformer是超越RNN、CNN的模型,Transformer中最有新意的就是不使用RNN、CNN,而使用自注意力机制,从而使得Transformer模型表现卓越。.原创 2022-04-19 17:56:05 · 1798 阅读 · 0 评论 -
【英文文本分类实战】之六——模型与训练-评估-测试
·请参考本系列目录:【英文文本分类实战】之一——实战项目总览·下载本实战项目资源:神经网络实现英文文本分类.zip(pytorch) [1] 编写模型 1、TextRNN 参考论文《Recurrent Neural Network for Text Classification with Multi-Task Learning》提出的TextRNN模型,我们编写TextRNN模型,代码如下:class Config(object): """配置参数""" def __i.原创 2022-02-17 13:31:06 · 2125 阅读 · 0 评论 -
【文本分类】混合CHI和MI的改进文本特征选择方法
摘要:改进CHI算法、改进MI算法,结合改进CHI+改进MI,应用于文本的特征选择,提高了精度。参考文献:[1]文武,万玉辉,张许红,文志云.基于改进CHI和PCA的文本特征选择[J].计算机工程与科学,2021,43(09):1645-1652....原创 2021-11-01 23:12:32 · 609 阅读 · 0 评论 -
【多任务学习】Multi-Task Learning Using Uncertainty to Weigh Losses for Scene Geometry and Semantics
·阅读摘要: 本文提出针对CV领域的多任务模型,设置一个可以学习损失权重的损失层,可以提高模型精度。·参考文献: [1] Multi-Task Learning Using Uncertainty to Weigh Losses for Scene Geometry and Semantics 个人理解:我们使用传统的多任务时,损失函数一般都是各个任务的损失相加,最多会为每个任务的损失前添加权重系数。但是这样的超参数是很难去调参的,代价大,而且很难去调到一个最好的状态。最好的方式应该是交给.原创 2022-05-11 19:01:15 · 1983 阅读 · 6 评论 -
【文本分类】《基于提示学习的小样本文本分类方法》
总之,这个过程中,预训练语言模型做出了更多的牺牲。Prompt,也就是提示,就按其字面理解,它就是伴随着输入一起,给予模型的一种上下文,它告诉、指导模型接下来你应当要做什么任务,是一个提示。在这里面,[Z]是我们预训练模型要预测的内容,“我喜欢这部电影,整体上来看,这是一个[Z]的电影”这样完形填空式的输入是预训练模型喜欢且擅长做的输入形式。但是在这里,一个合适的prompt(提示)对于模型的效果至关重要,像是提示的长度提示词汇的位置等等,一点prompt的微小差别,可能会造成效果的巨大差异。原创 2023-04-10 20:36:04 · 3629 阅读 · 0 评论 -
【文本分类】采用同义词的改进TF-IDF权重的文本分类
·摘要: 尝试使用相似词之间的关联性,来改变TF-IDF权重,依次改进普通TF-IDF文本分类算法的精确度,失败。·参考文献: [1]但唐朋,许天成,张姝涵.基于改进TF-IDF特征的中文文本分类系统[J].计算机与数字工程,2020,48(03):556-560. [2]任姚鹏,陈立潮,张英俊,袁英.结合语义的特征权重计算方法研究[J].计算机工程与设计,2010,31(10):2381-2383+2387.DOI:10.16208/j.issn1000-7024.2010.10.022..原创 2021-11-24 20:38:06 · 973 阅读 · 0 评论 -
【多标签文本分类】MSML-BERT模型的层级多标签文本分类方法研究
·阅读摘要: 本文在BERT模型上,提出了利用多任务架构来解决层级多标签文本分类问题。·参考文献: [1] MSML-BERT模型的层级多标签文本分类方法研究 [0] 摘要 在摘要中,作者主要给出了本篇论文的创新点: 1、多任务学习架构 2、多尺度特征抽取模块 3、多层级信息传播模块 4、层次化门控机制 最后论文再总结一下,提出的模型在数据集上效果良好。【注一】:上述的四个创新名词,其实原理都比较简单。“多尺度特征抽取模块”等于“CNN”,“多层级信息传播模块”等.原创 2022-04-10 15:36:15 · 5408 阅读 · 6 评论 -
【论文写作分析】之六《基于WordVec和改进注意力机制AlexNet-2的文本分类方法》
[1] 参考论文信息 论文名称:《基于WordVec和改进注意力机制AlexNet-2的文本分类方法》 发布期刊:《计算机科学》 期刊信息:CSCD扩展 论文写作分析摘要: 从内容上看,本文没有创新之处。【注】:这种论文都能发CSCD扩展?? 论文说了两个创新点: 1、本文对AlexNet-2网络进行优化,降低了模型参数的数量,支持更快的训练和学习。 2、在方法架构中添加了注意力机制,开始向每个输入赋予初始权重,并根据每个输入与最终预测结果的相关性,在训练过程中对这.原创 2022-04-27 13:53:09 · 720 阅读 · 0 评论 -
【BERT-多标签文本分类实战】之一——实战项目总览
很多数据集都是英文的,比如多标签文本数据集、层次结构标签文本数据集,想在方向上更进一步的话,必须得学会处理英文文本。而随着近些年的发展,bert算是表现超级好的几种模型之一,所以有必要跑一跑bert相关的模型。目前来看,如果方向是文本分类的话,英文文本分类、中文文本分类都需要掌握。如果需要本组件的源代码,请扫描关注我的公众号,回复“bert实战”。您还可以浏览我的另外一个项目博客【英文单标签文本分类实战】。[4]另一个项目【英文单标签文本分类实战】[3]实战前需要掌握的知识。[2]代码获取地址。......原创 2022-07-28 22:33:50 · 6370 阅读 · 0 评论 -
【多标签文本分类】Ensemble Application of Convolutional and Recurrent Neural Networks for Multi-label Text
·阅读摘要: 本文提出基于Seq2Seq模型,提出CNN-RNN模型应用于多标签文本分类。论文表示CNN-RNN模型在大型数据集上表现的效果很好,在小数据集效果不好。·参考文献: [1] Ensemble Application of Convolutional and Recurrent Neural Networks for Multi-label Text Categorization [2] Seq2Seq模型讲解,参考博客:【多标签文本分类】代码详解Seq2Seq模型 本文的.原创 2022-02-24 21:23:48 · 932 阅读 · 0 评论 -
【文本分类】基于改进TF-IDF特征的中文文本分类系统
摘要:改进TFIDF,提出相似度因子,提高了文本分类准确率。参考文献:[1]但唐朋,许天成,张姝涵.基于改进TF-IDF特征的中文文本分类系统[J].计算机与数字工程,2020,48(03):556-560. ???? 最近看了许多有关机器学习的文本分类改进,有一部分论文写的非常差劲,文不知所以,论文中的公式站不住脚,根本无法代码实现,一度使我怀疑是不是自己出了问题。现在已经往基于深度学习的文本分类上转了。一、引言 采用 one-hot模型进行文本向量化操作,并利用TF-IDF策略进行向量维原创 2021-11-18 18:55:19 · 1651 阅读 · 0 评论 -
【多标签文本分类】Balancing Methods for Multi-label Text Classification with Long-Tailed Class Distribution
·阅读摘要: 本文更像是对多标签文本分类的损失函数的综述,文中提到的几个损失函数(包括为了解决长尾问题的损失函数)都是前人已经提出的。·参考文献: [1] Balancing Methods for Multi-label Text Classification with Long-Tailed Class Distribution [1] Loss Functions 在 NLP 领域,二值化交叉熵损失(Binary Cross Entropy Loss)常被用来处理多标签文本分类问题.原创 2022-04-24 17:13:24 · 1425 阅读 · 0 评论 -
【文本分类】基于BERT预训练模型的灾害推文分类方法、基于BERT和RNN的新闻文本分类对比
·阅读摘要: 两篇论文,第一篇发表于《图学学报》,《图学学报》是核心期刊;第二篇发表于《北京印刷学院学报》,《北京印刷学院学报》没有任何标签。·参考文献: [1]林佳瑞,程志刚,韩宇,尹云鹏.基于BERT预训练模型的灾害推文分类方法[J/OL].图学学报:1-8[2022-01-17].http://kns.cnki.net/kcms/detail/10.1034.T.20220106.1131.002.html. [2]林德萍,汪红娟.基于BERT和RNN的新闻文本分类对比[J].北京印刷学院.原创 2022-01-17 17:26:30 · 1141 阅读 · 0 评论 -
【论文写作分析】之一 《基于混合注意力Seq2seq模型的选项多标签分类》
[1] 参考论文信息 论文名称:《基于混合注意力Seq2seq模型的选项多标签分类》 发布期刊:《计算机工程与应用》 期刊信息:CSCD扩展 论文写作分析摘要:本文非常典型,把几个模型里的亮点抽出缝合在一起,然后放在一个从来没使用过的领域上跑。这种写法简直就是我的理想型。 [2] 参考论文分解 这篇论文的支撑点有二:模型和新领域。 [2.1] 从模型来看 先看一下论文给出的模型: 模型使用到的点有: 1、混合注意力机制+Seq2Seq模型(Hybrid Attent.原创 2022-03-09 18:59:34 · 626 阅读 · 1 评论 -
【多标签文本分类】Large Scale Multi-label Text Classification with Semantic Word Vectors
·阅读摘要: 本文提出了利用词向量+CNN/词向量+GRU来解决大规模数据下的多标签文本分类问题。 [1] Large Scale Multi-label Text Classification with Semantic Word Vectors [0] 摘要 已有的多标签文本分类算法不考虑词序,选择使用词袋模型或TFIDF加权来创建文档向量。 论文提出使用词嵌入和词序来提高多标签学习能力。使用卷积神经网络(CNN)和带有门控循环单元(GRU)的循环网络独立地用于预训练的word2v.原创 2022-02-04 19:21:12 · 826 阅读 · 0 评论