Bert+CNN文本分类（含代码实现）

目录

一、什么是CNN？

CNN的特点

二、 CNN模型构造过程

2.1 Convolution（卷积）

2.2 Max Pooling（池化）

2.3 Flatten

三、TextCNN

3.1 什么是TextCNN

3.2 TextCNN与Image-CNN对比​

四、CNN模型分解

4.1 输入层

4.2 卷积层

4.3 池化层 

4.4 全连接层

五、数据集及BERT+CNN维度分析

5.1 参数及维度介绍

5.2 数据集介绍

5.3 预训练模型

5.4 Bert模型参数分析

六、BERT特征提取

6.1 生成BERT Embedding

6.2 微调（Fine tuning）

七、Bert+CNN文本分类代码实现

7.1 代码下载地址

7.2 过程分析

7.3 维度分析

7.3.1 参数定义

7.3.2 卷积+池化

7.3.3 整体维度转换图 

---

一、什么是CNN？

        将神经网络应用于大图像时，输入可能有上百万个维度，如果输入层和隐含层进行“全连接”，需要训练的参数将会非常多。如果构建一个“部分联通”网络，每个隐含单元仅仅只能连接输入单元的一部分，参数数量会显著下降。卷积神经网络就是基于这个原理而构建的。这其中的思想就是，降维或者说是特征选择，通过前面的卷积层或者池化层将重要的特征选取出来，然后全连接进行分类。特征是最重要的。 

CNN的特点

（1）特定特征位移不变性

（2）特征缩放不变性

二、 CNN模型构造过程