【22-23 春学期】AI作业8-卷积2

名词解释：

步长、填充

步长（stride）指的是卷积核在进行卷积操作时每次移动的像素数。

在卷积神经网络中，卷积操作将卷积核应用于输入图像或特征图，由于卷积核的大小和输入/特征图的大小有限制，因此需要在应用卷积操作时确定每一步卷积核的移动距离。这个移动距离就是步长。例如，如果步长为1，则卷积核在对输入图像或特征图进行卷积时，每次只移动一个像素。如果步长为2，则相邻两次卷积操作输入图像或特征图相对位置相距2个像素。

填充（padding）指的是在输入图像或特征图周围添加额外的像素值，以便在进行卷积操作时可以引入更多临近像素的贡献。

填充可以使得输入图像或特征图的大小与卷积核的大小相匹配（即，输出大小与输入大小相同）。否则，当输入大小与卷积核大小无法匹配时，会导致输出的大小比输入图像或特征图小。填充有两种模式：valid和same。valid模式表示不进行填充，same模式表示填充多余的像素值使得输入图像或特征图和卷积核大小相同。

感受野

感受野是指神经网络中某个输出节点对应输入图像中的哪些区域对其产生影响。可以将感受野看作是网络中某个节点的“视野”，它决定了节点对输入图像的敏感区域和权重。在卷积神经网络中，随着网络层数的增加，感受野也会不断增大。通过研究网络中各个节点的感受野，可以深入理解网络的特征提取过程和分类决策过程，从而优化网络结构并提高网络性能。

局部感知、权值共享

局部感知是指卷积核在卷积操作中只关注输入图像中的局部区域，而不考虑整张图像的全局信息。这种局部感知的方式可以大幅度减少卷积操作中需要计算的数据量，从而降低网络训练和预测的复杂度。同时，局部感知还能够增强网络的特征提取能力，使其能够更好地捕捉输入图像中的局部结构信息。

权值共享是指卷积核在对不同的局部区域进行卷积操作时使用相同的权值。这意味着卷积核中的每个元素都对应着对输入图像的某种特定的局部结构的检测。与传统的全连接神经网络相比，权值共享可以大大减少网络中需要训练的参数数量，从而降低网络过拟合的风险并提高网络的泛化能力。

池化（子采样、降采样、汇聚）

池化（Pooling），又称子采样（Subsampling）、降采样（Downsampling）或者汇聚（Pooling），是卷积神经网络中的一种重要操作，通常紧跟在卷积层之后。池化层可以有效减少特征图中的参数数量和计算量，提高网络的鲁棒性和泛化能力。

池化操作主要有两种形式：最大池化和平均池化。最大池化将输入特征图的每个小区域取最大值作为输出；而平均池化则取这些小区域的平均值作为输出。池化操作通常也会以固定的步长和滤波器大小作用于输入特征图上，从而实现特征图的降采样和降低特征图的空间尺寸，以及额外的非线性映射。

池化操作还能够增强神经网络的位置不变性，并且帮助网络学习到更加抽象和高层次的特征。另外，池化操作也一定程度上限制了过拟合的发生。

需要注意的是，随着卷积神经网络的发展，池化层的使用越来越少，有些最新的卷积神经网络甚至去掉了池化层，而是采用步长更大的卷积操作来实现特征降采样。这种方法可以进一步减少网络复杂度，并提高网络性能。

低级特征、中级特征、高级特征

特征提取是指通过多层卷积层和池化层对输入的原始数据进行处理，从中提取出更加抽象、能够区分不同类别的特征表示。根据卷积神经网络不同层次的特征表述能力，通常将特征分为低级特征、中级特征和高级特征。

低级特征主要指图像、视频等原始数据的物理能量信息，例如不同颜色、纹理、边缘和角点等图像特征。这些特征主要由卷积神经网络的底层卷积层提取，因此也被称为底层特征。这些特征比较基础和具体，对于图片的整体形状没有太多的描述能力。

中级特征是对低级特征进行更加抽象的表征。它包含了相对较大、更加抽象的图像局部区域信息，例如纹理块、线段、简单几何形状等。这些特征由卷积神经网络的中间卷积层提取，因此也被称为中层特征。中级特征具有较好的视觉识别能力，能够与对象身份相关联，但仍然不够抽象和细致。

高级特征是对中级特征进一步抽象和概括的结果，能够揭示对象之间更加高层次的内在相似性和差异性。高级特征主要由卷积神经网络的高层卷积层和全连接层提取，因此也被称为上层特征。高级特征的提取能力比较强，能够有效区分不同的对象类别。例如，在图像识别任务中，高级特征可以提取关于某类物体形状、纹理、颜色、光照等方面的抽象信息。