池化对数据启到了浓缩的效果,通过池化可以减少数据量,降低内存压力。简单地理解,池化操作就是通过池化的kernel选取一定的区域,通过某种计算将这个区域的一系列数值转化为一个数值,需要注意的是,对于池化操作来说,池化的步长一般是卷积核的大小。
Pytorch中提供了多种池化的类,最大池化、平均池化、最大自适应池化等操作,下面以二维数据的处理为例,列出常用的池化操作。
对应的类 | 功能 |
---|---|
.MaxPool2d() | 针对输入信号上应用2d最大值池化 |
.MaxUnPool2d() | 2d最大值池化的逆操作 |
.AvgPool2d() | 输入信号上应用2d平均池化 |
.AdaptiveMaxPool2d() | 2d自适应最大值池化(输出信号的大小自行指定) |
.AdaptiveAvgPool2d() | 2d自适应最大值池化(输出信号的大小自行指定) |
以torch.nn.MaxPool2d为例进行说明:
torch.nn.MaxPool2d(kernel_size, stride=None,dilation=1,return_indices=False,ceil_mode=False)
参数的使用说明:
kernel_size: 最大池化的窗口大小
stride: 最大池化窗口移动的大小,默认值为kernel_size
padding: 输入信号中每一边补充0的层数
dilation: 控制窗口中元素步幅的参数
return_indices: 如果为True,则会返回输出最大值的索引,方便之后执行逆操作
ceil_mode: True为向上取整,默认是向下取整
输入: (N,C-in, H-in, W-in)
输出:(N,C-out,H-out,W-out)
经过池化计算的转化公式是下面所示:
o
u
t
=
(
i
n
−
k
e
r
n
e
l
_
s
i
z
e
+
2
⋆
p
a
d
d
i
n
g
)
s
t
r
i
d
e
+
1
out = \frac{(in - kernel\_size + 2 \star padding)}{stride} + 1
out=stride(in−kernel_size+2⋆padding)+1
以下是池化操作的代码,指定池化的kernel之后,他会对特征图的每一层执行这样的操作,对于池化而言,他是不需要进行学习的,也就不是权重的层。
import torch
import torch.nn as nn
import matplotlib.pyplot as plt
from PIL import Image
import numpy as np
# 读取图片转化为灰度图,并转化为numpy数组
img = Image.open("imgs/lufei.jpg")
img_gray = np.array(img.convert("L"), dtype=np.float32)
# plt.figure(figsize=(6, 6))
# plt.imshow(img_gray, cmap=plt.cm.gray)
# plt.axis("off")
# plt.show()
# 将数组转化为张量
imh, imw = img_gray.shape
img_tensor = torch.from_numpy(img_gray.reshape(1, 1, imh, imw))
# 使用5*5的随机数构成的卷积核进行卷积操作
# 这里的卷积核是个比较神奇的卷积核,中间的数值比较大,两边的数值比较小
kernel_size = 5
kernel = torch.ones(kernel_size, kernel_size, dtype=torch.float32) * -1
kernel[2, 2] = 24
kernel = kernel.reshape((1, 1, kernel_size, kernel_size))
# 进行卷积操作
conv2d = nn.Conv2d(1, 2, (kernel_size, kernel_size), bias=False)
conv2d.weight.data[0] = kernel
imgconv2dout = conv2d(img_tensor)
# 进行维度的压缩,这样图像才能展示出来
imgconv2dout_img = imgconv2dout.data.squeeze()
print("卷积之后的尺寸为:{}".format(imgconv2dout_img.shape))
# 对卷积之后的张量进行最大池化,也就是锐化的操作
maxpool2d = nn.MaxPool2d(2, stride=2)
pool2_out = maxpool2d(imgconv2dout)
pool2_out_im = pool2_out.squeeze()
print(pool2_out.shape)
# 可视化最大池化的结果
plt.figure(figsize=(12, 6))
plt.subplot(1, 2, 1)
plt.imshow(pool2_out_im[0].data, cmap=plt.cm.gray)
plt.axis('off')
plt.subplot(1, 2, 2)
plt.imshow(pool2_out_im[1].data, cmap=plt.cm.gray)
plt.axis('off')
plt.show()
# 对卷积之后的张量进行平均g池化,也就是锐化的操作
avgpool2d = nn.AvgPool2d(2, stride=2)
pool2_out = avgpool2d(imgconv2dout)
pool2_out_im = pool2_out.squeeze()
print(pool2_out.shape)
# 可视化最大池化的结果
plt.figure(figsize=(12, 6))
plt.subplot(1, 2, 1)
plt.imshow(pool2_out_im[0].data, cmap=plt.cm.gray)
plt.axis('off')
plt.subplot(1, 2, 2)
plt.imshow(pool2_out_im[1].data, cmap=plt.cm.gray)
plt.axis('off')
plt.show()
# 对卷积之后的张量进行平均g池化,也就是锐化的操作
adaavgpool2d = nn.AdaptiveAvgPool2d(output_size=(100, 100))
pool2_out = adaavgpool2d(imgconv2dout)
pool2_out_im = pool2_out.squeeze()
print(pool2_out.shape)
# 可视化最大池化的结果
plt.figure(figsize=(12, 6))
plt.subplot(1, 2, 1)
plt.imshow(pool2_out_im[0].data, cmap=plt.cm.gray)
plt.axis('off')
plt.subplot(1, 2, 2)
plt.imshow(pool2_out_im[1].data, cmap=plt.cm.gray)
plt.axis('off')
plt.show()
最大池化的结果:
平均池化的结果:
自适应池化的结果,图片变模糊了,尺寸变小了