#DW暑期夏令营

卷积神经网络（CNN）概述

• 应用领域：常用于图像分类、语音识别、文字处理等。
• 特点：能够检测图像中局部特征，通过参数共享减少模型复杂度。

卷积神经网络的构建模块

1. 感受野（Receptive Field）

   • 神经元只关注图像的一个小区域，即感受野。
   • 感受野可以有不同的大小和形状，常见的是3x3的正方形。
   • 通过步幅（Stride）控制感受野在图像上的移动。
   • 边界处理通常使用零填充（Zero Padding）。

2. 参数共享（Parameter Sharing）

   • 不同的感受野可以共享相同的权重和偏置，减少模型参数。
   • 权重共享的神经元组称为滤波器（Filter）。

3. 卷积操作（Convolution Operation）

   • 滤波器在图像上滑动，计算局部区域与滤波器的点积，生成特征映射（Feature Map）。
   • 特征映射可以看作是图像经过卷积层后的表示。

4. 汇聚（Pooling）

   • 减少特征维度，常见的有最大汇聚（Max Pooling）和平均汇聚（Average Pooling）。
   • 汇聚层没有参数，通常在卷积层后使用。

5. 激活函数

   • 如ReLU（Rectified Linear Unit），增加非线性，帮助网络学习复杂模式。

6. 全连接层（Fully-Connected Layer）

   • 通常位于网络末端，用于最终的分类或回归任务。
   • 与输入特征向量的每个维度都有权重连接。

卷积神经网络的训练

• 优化目标：通常是分类准确率，通过交叉熵损失函数进行优化。
• 正则化：如dropout，防止过拟合。
• 数据增强：通过旋转、缩放、裁剪等方法增加数据多样性。

卷积神经网络的应用

• 图像识别：通过卷积层学习图像特征，进行分类。
• 语音识别：将语音信号转换为频谱图，应用CNN进行模式识别。
• 自然语言处理：使用卷积层提取文本数据的局部特征。

卷积神经网络的变体

• 全卷积网络（FCN）：去除全连接层，用于图像分割等任务。
• 特殊变换器层（Transformer Layer）：处理图像的尺度和旋转不变性。

卷积神经网络的优缺点

• 优点：参数共享减少了模型复杂度，能够捕捉图像局部特征。
• 缺点：对图像的尺度和旋转变化敏感，可能需要额外的数据增强。