卷积层理解及应用到边缘检测

水滩

已于 2023-12-08 20:05:07 修改

阅读量149

点赞数

文章标签：深度学习神经网络 cnn

于 2023-12-08 19:59:12 首次发布

本文链接：https://blog.csdn.net/yangshejun/article/details/134885583

版权

前言

卷积神经网络（convolutional neural network）是含有卷积层（convolutional layer）的神经网络。本章介绍卷积神经网络最常见的二维卷积层工作原理。它有高和宽两个空间维度，常用来处理图像。

一、二维互相关运算

虽然卷积层得名于卷积（convolution）运算，但我们通常在卷积层中使用更加直观的互相关（cross-correlation）运算。

一个二维输入数组和一个二维核（kernel）数组通过互相关运算输出一个二维数组。

0×0+1×1+3×2+4×3=19, 1×0+2×1+4×2+5×3=25,

3×0+4×1+6×2+7×3=37, 4×0+5×1+7×2+8×3=43.

1.互相关运算和卷积运算

卷积运算与互相关运算类似。为了得到卷积运算的输出，我们只需将核数组左右翻转并上下翻转，再与输入数组做互相关运算。

那卷积层为何能使用互相关运算替代卷积运算？

原因是：深度学习中核数组都是学出来的，卷积层无论使用互相关运算或卷积运算都不影响模型预测时的输出。假设卷积层使用互相关运算学出图5.1中的核数组。设其他条件不变，使用卷积运算学出的核数组即图5.1中的核数组按上下、左右翻转。也就是说，图5.1中的输入与学出的已翻转的核数组再做卷积运算时，依然得到图5.1中的输出。

2.特征图和感受野

二维卷积层输出的二维数组可以看作输入在空间维度（宽和高）上某一级的表征，也叫特征图（feature map）。影响二维输出层的元素x的前向计算的所有可能输入区域（可能大于输入的实际尺寸）叫做x的感受野（receptive field）。以图5.1为例，输入中阴影部分的4个元素是输出中阴影部分元素的感受野。我们将图5.1中形状为2×2的输出记为Y，并考虑一个更深的卷积神经网络：将Y与另一个形状为2×2的核数组做互相关运算，输出单个元素z。那么，z在Y上的感受野包括Y的全部4个元素，在输入上的感受野包括其中全部9个元素。

可见，我们可以通过更深的卷积神经网络使特征图中单个元素的感受野变得更加广阔，从而捕捉输入上更大尺寸的特征。

将上述互相关运算过程实现在corr2d函数里。它接受输入数组X与核数组K，并输出数组Y。

from mxnet import autograd, nd
from mxnet.gluon import nn

def corr2d(X, K):  
    h, w = K.shape
    Y = nd.zeros((X.shape[0] - h + 1, X.shape[1] - w + 1))
    for i in range(Y.shape[0]):
        for j in range(Y.shape[1]):
            Y[i, j] = (X[i: i + h, j: j + w] * K).sum()
    return Y

构造图5.1中的输入数组X、核数组K来验证二维互相关运算的输出。

X = nd.array([[0, 1, 2], [3, 4, 5], [6, 7, 8]])
K = nd.array([[0, 1], [2, 3]])
corr2d(X, K)

Out:

[[19. 25.]
[37. 43.]]

二、二维卷积层

二维卷积层将输入和卷积核做互相关运算，并加上一个标量偏差来得到输出。

卷积层的模型参数包括了卷积核和标量偏差。

在训练模型的时候，通常我们先对卷积核随机初始化，然后不断迭代卷积核和偏差。

基于corr2d函数来实现一个自定义的二维卷积层。

class Conv2D(nn.Block):
    def __init__(self, kernel_size, **kwargs):     
        super(Conv2D, self).__init__(**kwargs)
        #声明weight和bias两个模型参数
        self.weight = self.params.get('weight', shape=kernel_size)
        self.bias = self.params.get('bias', shape=(1,))
    #前向计算函数直接调用corr2d函数再加上偏差
    def forward(self, x):
        return corr2d(x, self.weight.data()) + self.bias.data()

冷知识：p×q卷积或p×q卷积核说明卷积核的高和宽分别为p和q。