李沐《动手学》-卷积层

1.问题引出

图像像素过大（上亿像素），MLP参数过大，存储难，运算也难。

平移不变性和局部性

例子：图片中的这个人不论在图片中的任意位置，都应该被我们的分类器所找到，这就是平移不变性，另外，找这个人也不需要看全部图片，指要看附近就好了，这是局部性。

• 下边仍然是在全连接层上进行思考，只是把维度扩充了。把原来的一维变为2维（所以2维变成了4维）
  
• 原则1：平移不变性的理解：因为V不应该依赖于(i,j)
  
• 原则2 ：局部性
  
• 总结
  

2.卷积层

二维交叉相关

二维卷积层

卷积核可以学习图下的算子得到想要的结果。

卷积VS交叉相关

总结

• 卷积层将输入和核矩阵进行交叉相关，加上偏移后得到输出
• 核矩阵和偏移都是可学习的参数
• 核矩阵的大小是超参数

3.代码实现

3.1互相关运算

import torch
from torch import nn
from d2l import torch as d2l

def corr2d(X, K):  #@save
    """计算二维互相关运算。"""
    h, w = K.shape
    Y = torch.zeros((X.shape[0] - h + 1, X.shape[1] - w + 1))
    for i in range(Y.shape[0]):
        for j in range(Y.shape[1]):
            Y[i, j] = (X[i:i + h, j:j + w] * K).sum()
    return Y

X = torch.tensor([[0.0, 1.0, 2.0], [3.0, 4.0, 5.0], [6.0, 7.0, 8.0]])
K = torch.tensor([[0.0, 1.0], [2.0, 3.0]])
corr2d(X, K)

3.2自定义实现卷积层

class Conv2D(nn.Module):
    def __init__(self, kernel_size):
        super().__init__()
        self.weight = nn.Parameter(torch.rand(kernel_size))
        self.bias = nn.Parameter(torch.zeros(1))

    def forward(self, x):
        return corr2d(x, self.weight) + self.bias

3.3边缘检测

#希望检测出两条竖线
X = torch.ones((6, 8))
X[:, 2:6] = 0
X

#搞出一个算子
K = torch.tensor([[1.0, -1.0]])

Y = corr2d(X, K)
Y

corr2d(X.t(), K)

3.3自定义实现检测

# 构造一个二维卷积层，它具有1个输出通道和形状为（1，2）的卷积核
conv2d = nn.Conv2d(1, 1, kernel_size=(1, 2), bias=False)

# 这个二维卷积层使用四维输入和输出格式（批量大小、通道、高度、宽度），
# 其中批量大小和通道数都为1
X = X.reshape((1, 1, 6, 8))
Y = Y.reshape((1, 1, 6, 7))

for i in range(10):
    Y_hat = conv2d(X)
    l = (Y_hat - Y)**2
    conv2d.zero_grad()
    l.sum().backward()
    # 迭代卷积核
    conv2d.weight.data[:] -= 3e-2 * conv2d.weight.grad
    if (i + 1) % 2 == 0:
        print(f'batch {i+1}, loss {l.sum():.3f}')

conv2d.weight.data.reshape((1, 2))

4.QA

• 感受野是越大越好，但是一般的，都习惯于把网络设计成层数多一些，卷积核尺寸小一些。
• 卷积核的大小体现了局部性，在图像上卷积核的数值不变体现了平移不变性
• 损失随着迭代次数在抖动的话，可能是数据本身多样性就大。但得确保是抖动中下降的，可以曲线平滑，也可以batch_size调大一点，