NLP实践项目二：基于RNN、CNN的文本多分类（pytorch实现）

直接看代码：github传送门
数据集：Classify the sentiment of sentences from the Rotten Tomatoes dataset

1. 数据预处理

本项目实现了两种数据预处理方式，一种是使用pytorch提供的dataset和dataloader实现数据预处理，一种是直接使用torchtext（强烈推荐上手试试）。两种方法的实现过程大体都是一致的，分词、数值化（word --> id）、填充、封装。最后一步是为了在训练过程中直接从迭代器中取出可输入到网络中的数据格式。

2. 模型定义

RNN模型（Vanilla RNN和LSTM）

使用序列模型做文本分类的过程都一样，先通过embedding层得到单词的词向量，然后将其输入到RNN中，通常是将最后一个单词对应的输出作为句子的特征向量，通过全连接层+softmax得到预测为各个标签的概率，最后使用交叉熵函数计算loss，然后更新参数。这里提一个我困惑的点，一般在介绍RNN时使用下面的图：