动手学深度学习——池化层

1、二维最大池化

返回滑动窗口中的最大值

2、填充、步幅、和多个通道

池化层与卷积层类似，都具有填充和步幅；

没有可学习的参数；

在每个输入通道应用池化层以获得相应的输出通道；

输出通道数=输入通道数；

3、平均池化层

最大池化层：每个窗口中最强的模式信号

平均池化层：将最大池化层中的最大操作替换为平均；

4、总结

池化层返回窗口中最大或平均值；

缓解卷积层对位置的敏感性；

同样有窗口大小、填充和步幅作为超参数。

5、代码实现

"""二维最大池化层和平均池化层"""
import torch
from torch import nn
def pool2d(X, pool_size, mode='max'):#X是输入 ，pool_size是窗口的大小，
   X = X.float()
   p_h, p_w = pool_size #池化窗口的高和宽
   Y = torch.zeros(X.shape[0] - p_h + 1, X.shape[1] - p_w + 1)
   #输出=输入的高-窗口的高+1，输入的宽-窗口的宽+1.
   #每行和每列都迭代
   for i in range(Y.shape[0]):
      for j in range(Y.shape[1]):
          if mode == 'max':
              Y[i, j] = X[i: i + p_h, j: j + p_w].max()
          elif mode == 'avg':
              Y[i, j] = X[i: i + p_h, j: j + p_w].mean()

   return Y

#构造输入数组x来验证二维最大池化层的输出
X = torch.tensor([[0, 1, 2], [3, 4, 5], [6, 7, 8]])
print(pool2d(X, (2, 2)))
#实现平均池化层
print(pool2d(X, (2, 2), 'avg'))

"""填充和步幅"""
#同卷积层⼀样，池化层也可以在输⼊的⾼和宽两侧的填充并调整窗⼝的移动步幅来改变输出形状。
X = torch.arange(16, dtype=torch.float).view((1, 1, 4, 4))
print(X)

#下⾯使⽤形状为(3, 3)的池化窗⼝，默认获得形状为(3, 3)的步幅。
pool2d = nn.MaxPool2d(3)
print(pool2d(X))

#我们可以手动指定步幅和填充
pool2d = nn.MaxPool2d(3, padding=1, stride=2)
print(pool2d(X))

#我们也可以指定非正方形的池化窗口，并分别指定高和宽上的填充和步幅
pool2d = nn.MaxPool2d((2, 4), padding=(1, 2), stride=(2, 3))
print(pool2d(X))

"""多通道"""
#在处理多通道输⼊数据时，池化层对每个输⼊通道分别池化，⽽不是像卷积层那样将各通道的输⼊按通道相加。
#池化层的输出通道与输入通道相等
X = torch.cat((X, X + 1), dim=1)
print(X)

#池化后，我们发现输出通道数仍然是2
pool2d = nn.MaxPool2d(3, padding=1, stride=2)
print(pool2d(X))

输出：