《神经网络与深度学习》第五章学习笔记

5.1、卷积

1、卷积经常用在信号处理中，用于计算信号的延迟累积

5.2、卷积神经网络

1、互相关

计算卷积需要进行卷积核翻转。卷积操作的目标：提取特征

2、卷积层的映射关系

3、汇聚层

卷积层虽然可以显著减少连接的个数，但是每一个特征映射的神经元个数并没有显著减少。

4、

5.3、其他卷积种类

1、空洞卷积

通过给卷积核插入“空洞”来变相地增加其大小

2、转置卷积/微步卷积

低维特征映射到高维特征

5.4、典型的卷积网络

1、残差网络

残差网络是通过给非线性的卷积层增加直连边的方式来提高信息的传播效率。

5.5、卷积网络的应用

1、目标检测

2、图像分割

3、OCR

5.6、应用到文本数据

1、Ngram特征与卷积

2、文本序列的卷积模型