池化层小结

池化层（Pooling Layer）是深度学习卷积神经网络（CNN）中的一种常用层。它的主要作用是减小特征图的空间尺寸，同时保留特征图的主要特征。池化层可以通过降低特征图的空间维度，减少模型参数量，提高计算效率，并且可以一定程度上增强模型的鲁棒性。

常见的池化操作有两种类型：最大池化（Max Pooling）和平均池化（Average Pooling）。

1. 最大池化（Max Pooling）：
   最大池化操作将输入的特征图分割为不重叠的矩形区域（通常为 2x2 或 3x3 的窗口），然后从每个区域中选择最大的值作为输出。这样可以减小特征图的尺寸，并保留局部最强的特征。最大池化操作可以通过保留最强的特征来提高模型的感知力和鲁棒性。

2. 平均池化（Average Pooling）：
   平均池化操作与最大池化类似，但它选择每个区域中的平均值作为输出。平均池化操作可以减小特征图的尺寸，并提供平滑的特征表示，有时它可以帮助降低模型对噪声和局部变化的敏感性。

注意，在pytorch中，实现池化时，默认的步幅等于池化窗口的大小；也可以手动指定

pool2d = nn.MaxPool2d(3, padding=1, stride=2)
pool2d = nn.MaxPool2d((2, 3), stride=(2, 3), padding=(0, 1))

池化层的一些特点和优势包括：

减小特征图的空间尺寸，降低计算量和内存需求。
提取并保留主要特征，减小过拟合的风险。
增加模型的平移不变性，对输入的微小位移具有一定的鲁棒性。
参数量相对较少，不需要像卷积层那样学习大量的权重参数。
需要注意的是，池化层没有可学习的参数，它仅仅是从输入特征图中提取信息，并减小特征图的尺寸。

在实际应用中，池化层通常与卷积层交替使用，通过不断堆叠卷积和池化层来构建卷积神经网络。这种结构可以逐渐减小特征图的尺寸，增强高层特征的感受野，并最终进行分类、目标检测、图像分割等任务。
池化层也不一定会减少计算量，看选择的步幅以及使用的填充来确定；

至于现在为什么池化层会减少：
一方面，从减少计算来看，一个角度是目前的计算能力大幅提升，一个角度是在卷积层上设置大于1的步幅实现下采样；
另一方面，从池化可以缓解卷积层对位置的敏感性来说，我们会对图像做增强，这样也可以减少对位置的敏感性