简单粗暴PyTorch之nn网络层(卷积、池化、线性、激活)

一、卷积层

1.1 卷积概念

卷积运算：卷积核在输入信号（图像）上滑动，相应位置上进行乘加

卷积核：又称为滤波器，过滤器，可认为是某种模式，某种特征。

卷积过程类似于用一个模版去图像上寻找与它相似的区域，与卷积核模式越相似，激活值越高，从而实现特征提取

AlexNet卷积核可视化，发现卷积核学习 到的是边缘，条纹，色彩这一些细节模式

卷积维度：一般情况下，卷积核在几个维度上滑动， 就是几维卷积

1.2 nn.Conv2d

nn.Conv2d 功能：

对多个二维信号进行二维卷积主要参数：

• in_channels：输入通道数
• out_channels：输出通道数，等价于卷 积核个数
• kernel_size：卷积核尺寸
• stride：步长
• padding ：填充个数，保持输入输出尺寸不变

• dilation：空洞卷积大小，提升感受野

• groups：分组卷积设置
• bias：偏置

尺寸计算：

例：
读取照片转张量

# 用PIL方式读取RGB
path_img = os.path.join(os.path.dirname(os.path.abspath(__file__)), "lena.png")
img = Image.open(path_img).convert('RGB')  # 0~255

# convert to tensor
img_transform = transforms.Compose([transforms.ToTensor()])  # RGB转张量
img_tensor = img_transform(img)
img_tensor.unsqueeze_(dim=0)    # C*H*W to B*C*H*W

设置一个卷积核大小为3进行卷积

conv_layer = nn.Conv2d(3, 1, 3)   # input:(i, o, size) weights:(o, i , h, w)
nn.init.xavier_normal_(conv_layer.weight.data)  # 初始化
# calculation
img_conv = conv_layer(img_tensor)

可视化，将张量转化为PIL图像

print("卷积前尺寸:{}\n卷积后尺寸:{}".format(img_tensor.shape, img_conv.shape))
img_conv = transform_invert(img_conv[0, 0:1, ...], img_transform)
img_raw = transform_invert(img_tensor.squeeze(), img_transform)
plt.subplot(122).imshow(img_conv, cmap='gray')
plt.subplot(121).imshow(img_raw)
plt.show()

输出：

1.3 转置卷积

转置卷积用于对图像进行上采样(UpSample)

nn.ConvTranspose2d
功能：转置卷积实现上采样
主要参数：
• in_channels：输入通道数
• out_channels：输出通道数
• kernel_size：卷积核尺寸
• stride：步长
• padding ：填充个数
• dilation：空洞卷积大小
• grou