![](https://img-blog.csdnimg.cn/20201014180756724.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
文本分类
发发fjfj
西电研究生在读
研究学习方向
1深度学习解决文本分类,相似性问题
2基于GANs的文本序列生成,摘要生成,图像转换文本问题
3机器学习解决公共安全中人群运动以及决策问题
展开
-
Convolutional Neural Networks for Sentence Classification(阅读理解)
1原理图2介绍在原文中,用了6个卷积核对原词向量矩阵进行卷积,如上图所示;然后进行池化,对相同卷积核产生的特征图进行连接;再进行softmax输出2个类别。核心点在于可以捕捉局部相关性,具体到文本分类任务中可以利用CNN来提取句子中类似 n-gram 的关键信息。TextCNN详细过程:第一层是图中最左边的7乘5的句子矩阵,每行是词向量,维度=5,这个可以类比为图像中的原始像素点了。然后经过有 f...原创 2018-05-17 10:36:16 · 434 阅读 · 0 评论 -
ABCNN: Attention-Based Convolutional Neural Network for Modeling Sentence Pairs(阅读理解)
首先这张图片是本文的基础模型,后续的工作以此展开。BCNN是一个没有添加Attention的模型输入层输入句子进行padding后转化成词向量卷积层一个窗口最后只生成一个卷积值,然后再句子长度上进行滑动,得到一个长度为sent_len+ws-1的向量(wide conv)pooling层 论文中提到了两种pooling层,一种是最后一个pooling层–all-ap,还有一种是中间卷积层所用的po...原创 2018-06-08 17:39:44 · 3845 阅读 · 0 评论 -
Multichannel Variable-Size Convolution for Sentence Classification(阅读理解)
它结合了不同版本的预先训练的词嵌入使用可变大小的卷积滤波器进行不同粒度的短语特征提取作者证明了使用预先训练的网络可以达到一个更好的结果多通道输入作者将一小批量的句子整合成相同的长度,而对应通道的未知字将被随机初始化,或者从下一节描述的互学习阶段获得良好的初始化,多通道输入的好处是(1)一个频繁的词在开始时可以有多个表示(而不是只有一个),这意味着它有更多可用的信息来利用(2)在一些word emb...原创 2018-05-19 13:46:03 · 429 阅读 · 0 评论 -
Effective Use ofWord Order for Text Categorization with Convolutional Neural Networks(阅读理解)
一篇公开在2014年的文章,从现在的角度来看这篇文章的话,我们发现作者提出的方法很难算是主流方法,但在当时也有一定的启发意义。这里我们就简单介绍一下这篇文章。本文提出了将CNN直接应用于高维度的文本数据上,为我们提供了两者CNN网络Seq-CNNAs a running toy example, suppose that vocabulary V = {“don’t”, “hate”, “I”, ...原创 2018-06-27 19:35:20 · 345 阅读 · 0 评论