22 池化层 [动手学深度学习v2]

1. 卷积层对位置非常敏感

2. 池化层可以缓解卷积层对位置的敏感性；返回窗口中的最大或平均值；在每个通道上单独运算；同样有窗口大小、填充、和步幅作为超参数。

3. 实现池化层的正向传播

   import torch
   
   def pool2d(X, pool_size, mode='max'):
       p_h, p_w = pool_size
       Y = torch.zeros((X.shape[0] - p_h + 1, X.shape[1] - p_w + 1))
       for i in range(Y.shape[0]):
           for j in range(Y.shape[1]):
               if mode == 'max':
                   Y[i, j] = X[i:i + p_h, j:j + p_w].max()
               elif mode == 'avg':
                   Y[i, j] = X[i:i + p_h, j:j + p_w].mean()
       return Y    
   

4. 池化层现在使用的也不多，原因是我们会对数据进行增强处理（剪裁、旋转、平移等操作），对数据本身进行许多扰动操作，使得卷积神经网络可以看到发生过很多变化的数据，不会过拟合到某个具体的位置，这也就淡化了池化层的作用（缓解卷积层对位置的敏感性）。