卷积神经网络各层详解以及研究思考

目录

卷积神经网络（CNN）简介

各层详解

卷积层

激活函数

池化层

全连接层

卷积神经网络领域的研究思考

网络架构创新

计算效率优化

结合性

小样本学习

应用于特定领域的深入研究

---

卷积神经网络（CNN）简介

在图像处理之中有出色的表现

• 空间特征的提取：图像是由像素的空间排列组成的，而CNN能够通过其卷积层有效地提取这些空间特征
• 参数共享提高效率，减少模型复杂度：在卷积层中，相同的卷积核（滤波器）被应用于整个图像，这意味着无论图像多大，学习的参数数量都保持不变。这种参数共享机制不仅减少了模型的复杂度，还提高了模型的训练效率
• 多层结构提取不同特征：CNN通常包含多个卷积层，每个层专注于不同级别的特征提取。浅层可能关注基本特征如边缘和颜色，而更深层则能识别更复杂的模式，如对象的特定部分或整体结构
• 适应性强：CNN能够处理不同尺寸和分辨率的图像，并在多种图像相关任务中表现出色，如图像分类、目标检测、图像分割等
• 对于局部进行感知，再将局部信息综合起来得到全局信息

包括

• 输入层（input layer）
• 卷积层（convolution layer）
• 激活函数（activation function）
• 池化层（pooling layer）
• 全连接层（fully connected layer）
• 输出层（output layer）
• 

各层详解

输入层顾名思义，输出层的神经元数量即为需要分类的数量

卷积层

从左往右，再从上到下遍历处理图像，具有卷积核大小、填充（图像长宽两侧填充的数字，常用0）、步长（每次移动的行列数）等常用参数。整个图像的所有元素都“共享”了权重参数的计算

具有单通道单卷积核计算以及多通道多卷积核计算两种计算模式

核心作用：提取图像特征。

        不同卷积核能得到不同层次的图像特征信息

        上图取用的是6个5*5卷积核，几个卷积核就能提取几张特征图，尺寸大小计算为28−5+1=24

激活函数

简单的理解：卷积是线性变换，激活函数则是非线性映射（变换），负责对卷积层抽取的特征进行激活（卷一次激活一次）

本质作用：引入非线性，使得神经网络能够学习和表示更复杂的函数，提高模型的拟合能力

池化层

减少特征图的空间维度，保留主要的特征，减少数据和参数的量，有助于提高模型的泛化能力并减少过拟合的风险（因为减少了对特定训练样本的依赖，就可以更好的泛化到新数据）

全连接层

将前面层提取的特征信息进行综合和汇总，即将将最后得到的特征映射到线性可分的空间（变成一条长的列向量），并且常配一个softmax激活函数

卷积神经网络领域的研究思考

网络架构创新

有许多不同的网络架构，处理的效果也有很多不同。可以设计更有效，更精确的CNN架构，例如通过改进层结构、引入新的激活函数或者优化其连接模式

计算效率优化

研究轻量级和高效的CNN模型，以适应资源受限的环境，例如移动设备和嵌入式系统。

结合性

结合强化学习，其他神经网络，自注意力机制等去研究

小样本学习

研究如何在仅有有限数据的情况下有效地训练CNN，这包括零样本学习和少样本学习等技术。

应用于特定领域的深入研究

将CNN应用于特定领域的深入研究，如医疗图像分析、自动驾驶车辆的视觉系统、自然语言处理等。