深度学习---------------卷积层

已于 2024-08-11 22:19:14 修改
阅读量423 收藏 10
点赞数 21
分类专栏： 动手学深度学习 文章标签： 深度学习 人工智能
于 2024-08-10 22:48:57 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/CSDN_e_1/article/details/141060080
版权

目录

从全连接到卷积

分类猫和狗的图片

    使用一个还不错的相机采集图片（12M像素=120万像素）
RGB图片有36M元素（360万像素）
    使用100大小的单隐藏层MLP，模型有3.6B元素（3.6B是指的参数数量而不是像素数量，即3.6Billion=36亿像素）
    远多于世界上所有猫和狗的总数（900M狗，600M猫）

在这里插入图片描述

3,600,000,000 * 4字节 = 14,400,000,000字节 ≈ 14.4GB

在这里插入图片描述
在这里插入图片描述

①k、l表示图片的第k行、第l列个像素，它相当于全连接层的 x i x_i xi​, x i x_i xi​乘以一个权重值，得到全连接层中一层神经元中一个神经元的一条线的值。

②有一个四维的W，里面有很多个w，例如前图的全连接层有100个w。i，j表示此w的坐标，即遍历所有的i、j合为100。每个w又是一个矩阵，每个w连接所有像素，对应矩阵宽高为k和l。因此下图中的 h i , j h_{i,j} hi,j​为全连接层中一个神经元的输出。

③原来的k,l是基于图片的绝对位置，ab是根据ij的相对位置，这里就省略绝对位置，只需要一个原点加相对原点的相对位置，就可以表示位置信息。



重新考察全连接层

将输入和输出变形为矩阵（宽度，高度）
将权重变形为4维张量（h,w）到(h’,w’)

在这里插入图片描述

原本权重为二维：输入输出为一维向量，可以理解为从输入和输出分别选一个节点。
现在权重为四维：输入输出为二维矩阵，可以理解成从输入和输出分别选一个包含高宽的节点。

i、j表示选的w的坐标（即许多个卷积核，或者说滤波器、检测器），k、l表示图片像素的位置。
（可以理解为：权重w是输入的第i行j列这个元素到输出的k行l列的变换系数，所以w是4维的才能把输入和输出的每一个元素都连接上。）

第i行第j列的卷积核中的第（k，l）个元素。
（可以理解为：有一个4维的W，里面有很多个w。i、j表示此w的坐标，每个w又是一个矩阵，矩阵宽高为k、l。）
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
重新对w进行索引，对w一些元素重新排列一下做到一个v上面。把原来的w写成变换后的w的话，那么需要对 对应的X进行变换。



原则1------平移不变性

在这里插入图片描述
这就是2维交叉相关。



原则2------局部性

在这里插入图片描述
意思是：在 X i , j X_{i,j} Xi,j​附近区域，区域🔺很小。
在这里插入图片描述



总结

    对全连接层使用平移不变性和局部性得到卷积层。

在这里插入图片描述



卷积层

在这里插入图片描述
① 卷积核遇到和自己相似的，会极度膨胀，遇到和自己不一样的，会极度缩小。

② 提取图像特征，卷积层越深，提取的是语义的特征。



二维交叉相关

在这里插入图片描述

在这里插入图片描述



二维卷积层

在这里插入图片描述
    输出大小略小于输入大小。这是因为卷积核的宽度和高度大于1，而卷积核只与图像中每个大小完全适合的位置进行互相关运算。所以，输出大小等于输入大小 n k n_k nk​× n k n_k nk​减去卷积核大小 k h k_h kh​× k h k_h kh​,即：

在这里插入图片描述


在这里插入图片描述



交叉相关 vs 卷积

在这里插入图片描述


一维和三维交叉相关

在这里插入图片描述


总结

    卷积层将输入和核矩阵进行交叉相关，加上偏移后得到输出。

    核矩阵和偏移是可学习的参数。

    核矩阵的大小是超参数。



图像卷积

二维互相关运算

在这里插入图片描述

import torch


# K是核矩阵
def corr2d(X, K):  # @save
    """计算二维互相关运算"""
    h, w = K.shape  # 获取卷积核的长&宽
    # 输入 X 的高度减去卷积核的高度加一，输入 X 的宽度减去卷积核的宽度加一
    Y = torch.zeros((X.shape[0] - h + 1, X.shape[1] - w + 1))
    # 使用两层嵌套循环遍历输出Y的每一个位置(i, j)  
    for i in range(Y.shape[0]): # 外层循环遍历Y的行
        for j in range(Y.shape[1]): # 内层循环遍历Y的列
            # 这里的K相当于W 的一个子集
            # 通过切片操作 X[i:i + h, j:j + w] 从输入 X 中提取一个与卷积核 K 大小相同的子区域。
            # 将这个子区域与卷积核 K 进行逐元素相乘
            Y[i, j] = (X[i:i + h, j:j + w] * K).sum()
    return Y


X = torch.tensor([[0.0, 1.0, 2.0], [3.0, 4.0, 5.0], [6.0, 7.0, 8.0]])
K = torch.tensor([[0.0, 1.0], [2.0, 3.0]])
print(corr2d(X, K))

输出：
在这里插入图片描述



实现二维卷积层

    卷积层对输入和卷积核权重进行互相关运算，并在添加标量偏置之后产生输出。所以，卷积层中的两个被训练的参数是卷积核权重和标量偏置。就像我们之前随机初始化全连接层一样，在训练基于卷积层的模型时，我们也随机初始化卷积核权重。

    corr2d函数实现二维卷积层。在__init__构造函数中，将weight和bias声明为两个模型参数。前向传播函数调用corr2d函数并添加偏置。

    高度和宽度分别为 h 和 w 的卷积核可以被称为 h × w 卷积或 h × w 卷积核。 我们也将带有 h × w 卷积核的卷积层称为 h × w 卷积层。

class Conv2D(nn.Module):
    def __init__(self, kernel_size):
        super().__init__()
        self.weight = nn.Parameter(torch.rand(kernel_size))
        self.bias = nn.Parameter(torch.zeros(1))
 
    def forward(self, x):
        return corr2d(x, self.weight) + self.bias



练习：

import torch
from torch import nn
from d2l import torch as d2l


class Conv2D(nn.Module):
    def __init__(self, kernel_size):
        super().__init__()
        self.weight = nn.Parameter(torch.rand(kernel_size))
        self.bias = nn.Parameter(torch.zeros(1))

    def forward(self, x):
        return corr2d(x, self.weight) + self.bias


# K是核矩阵
def corr2d(X, K):  # @save
    """计算二维互相关运算"""
    h, w = K.shape  # 获取卷积核的长&宽
    Y = torch.zeros((X.shape[0] - h + 1, X.shape[1] - w + 1))
    for i in range(Y.shape[0]):
        for j in range(Y.shape[1]):
            # 这里的K相当于W
            Y[i, j] = (X[i:i + h, j:j + w] * K).sum()
    return Y


X = torch.tensor([[0, 1, 2, 3],
                  [4, 5, 6, 7],
                  [8, 9, 10, 11],
                  [12, 13, 14, 15]], dtype=torch.float32)

# 创建 Conv2D 实例
conv = Conv2D(kernel_size=(2, 2))
# 进行卷积操作
Y = conv(X)
print(Y)

输出：
在这里插入图片描述


图像中目标的边缘检测

卷积层的一个简单应用：检测图像中不同颜色的边缘。

import torch

X = torch.ones((6, 8))
X[:, 2:6] = 0
print(X)

输出：

在这里插入图片描述


    构造一个高度为1、宽度为2的卷积核K。当进行互相关运算时，如果水平相邻的两元素相同，则输出为零，否则输出为非零。

在这里插入图片描述

K = torch.tensor([[1.0, -1.0]])



输出Y中的1代表从白色到黑色的边缘，-1代表从黑色到白色的边缘。 其他情况的输出为0。

Y = corr2d(X, K)
print(Y)

输出：
在这里插入图片描述


该部分总代码

import torch


# K是核矩阵
def corr2d(X, K):  # @save
    """计算二维互相关运算"""
    h, w = K.shape  # 获取卷积核的长&宽
    Y = torch.zeros((X.shape[0] - h + 1, X.shape[1] - w + 1))
    for i in range(Y.shape[0]):
        for j in range(Y.shape[1]):
            # 这里的K相当于W
            Y[i, j] = (X[i:i + h, j:j + w] * K).sum()
    return Y


X = torch.ones((6, 8))
X[:, 2:6] = 0
K = torch.tensor([[1.0, -1.0]])
Y = corr2d(X, K)
print(Y)



    现在我们将输入的二维图像转置，再进行如上的互相关运算。 其输出如下，之前检测到的垂直边缘消失了。不出所料，这个卷积核K只可以检测垂直边缘，无法检测水平边缘。

corr2d(X.t(), K)

输出：
在这里插入图片描述
为什么全零？因为x转置后的结果如下图：

在这里插入图片描述

答：水平相邻的两元素相同，则输出为零

那么如何解决呢？
答：将K也转置

在这里插入图片描述
效果展示：
在这里插入图片描述



该部分总代码：

import torch


# K是核矩阵
def corr2d(X, K):  # @save
    """计算二维互相关运算"""
    h, w = K.shape  # 获取卷积核的长&宽
    Y = torch.zeros((X.shape[0] - h + 1, X.shape[1] - w + 1))
    for i in range(Y.shape[0]):
        for j in range(Y.shape[1]):
            # 这里的K相当于W
            Y[i, j] = (X[i:i + h, j:j + w] * K).sum()
    return Y


X = torch.ones((6, 8))
X[:, 2:6] = 0
K = torch.tensor([[1.0, -1.0]])
Y = corr2d(X.t(), K)
print(Y)



    如果我们只需寻找黑白边缘，那么以上[1, -1]的边缘检测器足以。然而，当有了更复杂数值的卷积核，或者连续的卷积层时，我们不可能手动设计滤波器。那么我们是否可以学习由X生成Y的卷积核呢？

    仅查看“输入-输出”对 来学习由X生成Y的卷积核。先构造一个卷积层，并将其卷积核初始化为随机张量。接下来，在每次迭代中，我们比较Y与卷积层输出的平方误差，然后计算梯度来更新卷积核。为了简单起见，我们在此使用内置的二维卷积层，并忽略偏置。

# 构造一个二维卷积层，它具有1个输出通道和形状为（1，2）的卷积核
# 第一个参数：输入通道数为1，第二个参数：输出通道数为1
conv2d = nn.Conv2d(1,1, kernel_size=(1, 2), bias=False)
 
# 这个二维卷积层使用四维输入和输出格式（批量大小、通道、高度、宽度），
# 其中批量大小和通道数都为1
X = X.reshape((1, 1, 6, 8))
Y = Y.reshape((1, 1, 6, 7))
lr = 3e-2  # 学习率
# 通过一个循环来迭代更新权重
for i in range(10):
	# 进行前向传播，通过卷积层得到预测值Y_hat
    Y_hat = conv2d(X)
    l = (Y_hat - Y) ** 2
    conv2d.zero_grad()
    l.sum().backward()
    # 迭代卷积核，使用权重数据的data属性进行原地更新，学习率与梯度相乘得到了权重应该更新的方向和大小。
    conv2d.weight.data[:] -= lr * conv2d.weight.grad
    if (i + 1) % 2 == 0:
        print(f'epoch {i+1}, loss {l.sum():.3f}')



该部分总代码

import torch
from torch import nn


# K是核矩阵
def corr2d(X, K):  # @save
    """计算二维互相关运算"""
    h, w = K.shape  # 获取卷积核的长&宽
    Y = torch.zeros((X.shape[0] - h + 1, X.shape[1] - w + 1))
    for i in range(Y.shape[0]):
        for j in range(Y.shape[1]):
            # 这里的K相当于W
            Y[i, j] = (X[i:i + h, j:j + w] * K).sum()
    return Y


X = torch.ones((6, 8))
X[:, 2:6] = 0
K = torch.tensor([[1.0, -1.0]])
Y = corr2d(X, K)
# 构造一个二维卷积层，它具有1个输出通道和形状为（1，2）的卷积核
# 第一个参数：输入通道数为1，第二个参数：输出通道数为1
conv2d = nn.Conv2d(1, 1, kernel_size=(1, 2), bias=False)

# 这个二维卷积层使用四维输入和输出格式（批量大小、通道、高度、宽度），
# 其中批量大小和通道数都为1
X = X.reshape((1, 1, 6, 8))
Y = Y.reshape((1, 1, 6, 7))
lr = 3e-2  # 学习率
# 通过一个循环来迭代更新权重
for i in range(10):
    # 进行前向传播，通过卷积层得到预测值Y_hat
    Y_hat = conv2d(X)
    l = (Y_hat - Y) ** 2
    conv2d.zero_grad()
    l.sum().backward()
    # 迭代卷积核，使用权重数据的data属性进行原地更新，学习率与梯度相乘得到了权重应该更新的方向和大小。
    conv2d.weight.data[:] -= lr * conv2d.weight.grad
    if (i + 1) % 2 == 0:
        print(f'epoch {i + 1}, loss {l.sum():.3f}')

输出：
在这里插入图片描述



所学的卷积核的权重张量

conv2d.weight.data.reshape((1, 2))

输出：
在这里插入图片描述



问题

①为什么要权重变形？为什么要重新索引？
解释全连接层和卷积层之间的关系，即怎么样对全连接层做变换、做限制能得到卷积层。

②为什么不应该看那么远？感受野不是越大越好吗？
类似于全连接层为什么隐藏层不是越大越好。（可以做一个很浅的很宽的全连接层，但没一个深一点短一点的全连接层好。）卷积神经网络是一样的。对一个卷积层比较少的（一层或者两层的）但是每个盒比较大的不如把每一层盒变小一点、做深一点。通常小一点的主要用3×3，5×5（即：2D卷积核一般shape = (3,3)，最多（5,5）。大shape的卷积核不如更深层的小shape的卷积核）。

③二维卷积层，有没有可能同时使用两个不同尺寸的Kernel进行计算，然后再计算出一个更合适的Kernel，从而提升特征提取的性能。
有的

④为什么100的MLP太大放不下，100的全连接层能放下？
全连接层最大的问题：权重w的高取决于输入的宽。当输入一个1200万像素的图片，输入的维度就变成1200万的维度，所以炸掉了。100的全连接层是不大的，假设给定一个很大的图片那么全连接层就不行了，而卷积没有这个问题，因为盒是固定的。

Einstein·Jun
关注
  • 21
    点赞
  • 踩
  • 10
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
深度学习之检测模型-FPN
whz1861的博客
01-12 4988
Feature pyramids are as basic component in recognition systems for detecting objects at different scales. in this paper, we exploit the inherent multi-scale, pyramids hierarchy of deep convolutiona
Fashion-MNIST
03-21
模型通常由多个卷积层、池化层和全连接层组成，最后是输出层，用于分类。 例如，在提供的"基于卷积神经网络的Fashion-MNIST图像识别.html"和"基于卷积神经网络的Fashion-MNIST图像识别.ipynb"文件中，很可能包含了...
VGG-M结构
页页读
07-27 2905
1. 一系列的VGG结构: 2. 下面这个CNN-M就是VGG-M CNN的架构。每个架构包含5个卷积层(conv 1-5)和3个完全连接层(full 1-3)。每个卷积层的细节在三个子行中给出:第一个指定卷积滤波器的数量和它们的接受域大小为“num x size x size”;第二个表示卷积步幅(“st”)和空间填充(“pad”);第三个表示是否应用了本地响应Normalisation (LRN)[13]，以及最大池降采样因子。对于full 1-3，我们指定它们的维数，这对于所有三个架构都是一样的。
通俗易懂理解U-Net语义分割模型
IT菜鸟
01-22 4413
通俗易懂理解U-Net语义分割模型
C++ 实现 超分 Meta-SR
juebai123的博客
11-13 761
Meta-SR（任意放大倍数的超分辨率），大概意思是 ：可以是非整数倍的，并且只要一个模型（就可以实现2，3，4 倍及它们之中间倍数，比如，2.3, 3.5 倍等） 在《Meta-SR--master》中提供了 一个训练好的模型 （百度盘），这里用C++实现下（便于没有安装Pytorch的电脑运行）。 分成 特征学习、元放大 两块。 先定义数据池，把训练模型数据载入： str...
Swin-Transformer网络结构详解
热门推荐
霹雳吧啦Wz
11-03 21万+
文章目录0 前言1 网络整体框架2 Patch Merging详解3 W-MSA详解Ω(MSA)\Omega (MSA)Ω(MSA)模块计算量Ω(W−MSA)\Omega (W-MSA)Ω(W−MSA)模块计算量4 SW-MSA详解5 Relative Position Bias详解6 模型详细配置参数 0 前言 Swin Transformer是2021年微软研究院发表在ICCV上的一篇文章，并且已经获得ICCV 2021 best paper的荣誉称号。Swin Transformer网络是Tran
SE-Net整理阅读
wuRDmemory
05-16 1万+
写在前面 最近算是好不容易抽时间把这两个论文看完了，总体来说收获还是很多的，以下是自己的一些理解和整理。 SE-Net SE-Net的整体思路 引入了注意力的思想，即对于每个通道，用一个权重来表示该通道在下一阶段的重要性； 做成了一个插入式的模块，十分方便与各个基础网络的结合。   Introduction部分 这段文章中作者总结了神经网络的有点，就是 ...
Fast R-CNN论文解读
h__ang的博客
04-09 1万+
论文链接：https://arxiv.org/abs/1504.08083 代码链接：https://github.com/rbgirshick/fast-rcnn. Abstract 这篇论文提出了一种基于卷积神经网络做目标检测的算法——Fast R-CNN，它是建立在之前R-CNN的基础上使用深度卷积神经网络进行高效的目标检测。Fast R-CNN做了几点创新来提高训练和测试阶段的速度，同时提...
【U-Net】Pytorch实现
陈嘿萌的博客
11-06 4709
2021年11月06日11:16:25 今天来完成U-Net 原文链接：https://arxiv.org/abs/1505.04597 论文题目：U-Net: Convolutional Networks for Biomedical Image Segmentation 作者：Olaf Ronneberger, Philipp Fischer, and Thomas Brox 原文插图： 网络结构：   网络架构如上图1所示。它由收缩路径（左侧）和扩张路径（右侧）组成。收缩路径遵循卷积网络的典型结构
目标检测：Mobilenet-SSD实现
算法之美
11-18 5320
目标检测小白学习养成记：Mobilenet-SSD实现详细步骤，本机上亲测成功。
【日常学习】U-net的改进
东南逮虾户的博客
03-28 1万+
【日常学习】U-net的改进 文章地址：基于改进 U-NET 网络的神经分割方法研究 ResNet ResNet建立的模块如下： 残差网络提出了一个捷径(shortcut)的概念，即跳过一个或多个层，将输入结果直接添加到底层，残差网络可以通过下面的公式1来表示 H(x)=x+F(x)         &nb...
Keras-2.4.3.tar.gz
06-11
2. **模块化设计**：Keras-2.4.3提供了多种预定义的层（如卷积层、池化层、全连接层等），用户可以自由组合这些层来创建定制的模型结构。 3. **兼容性**：Keras-2.4.3与TensorFlow 2.x版本完全兼容，利用了...
mindpose-master.zip
04-16
这些模型通常通过卷积层来提取特征，然后通过一系列的上采样和连接操作恢复人体关键点的精确位置。 4. **数据集与预处理**：为了训练和评估姿态估计模型，MindPose可能依赖于公开的人体姿态数据集，如MPII、COCO...
Faster R-CNN源码
12-27
理解Faster R-CNN源码的过程中，你还需要了解基础的深度学习概念，如卷积层、池化层、全连接层，以及梯度下降、反向传播等训练算法。同时，对于PyTorch、TensorFlow或MXNet等深度学习框架的使用也需要有一定掌握。...
honinbo-product.zip
12-16
这种网络结构在图像识别和计算机视觉任务中表现出色，通过卷积层、池化层和全连接层，CNN可以从围棋棋盘的二维像素数据中提取出特征，理解和预测棋局的走势。在网络训练过程中，采用了强化学习策略，让AI在模拟对弈...
深度学习 —— 个人学习笔记14（ResNet、DenseNet）
Springer的博客
08-06 294
本文章为个人学习使用，版面观感若有不适请谅解，文中知识仅代表个人观点，若出现错误，欢迎各位批评指正。文中部分知识参考：B 站 —— 跟李沐学AI；
第R2周：LSTM-火灾温度预测：一文搞懂LSTM（长短期记忆网络）
lihuhelihu的博客
08-07 658
LSTM在许多问题上效果非常好，现在被广泛使用。长期依赖问题： 在传统的RNN中，当序列非常长时，网络往往会遇到梯度消失或梯度爆炸的问题，导致难以捕捉到序列中长距离的依赖关系。因此，LSTM通过引入门控结构和细胞状态，有效地解决了传统RNN在处理长序列数据时遇到的梯度消失、长期依赖等问题，使得其在语言建模、时间序列预测、机器翻译等任务中取得了显著的进展。●问题描述：RNN在处理长序列时，由于信息的传递是通过隐藏状态进行的，随着时间的推移，较早时间步的信息可能会在传递到后面的时间步时逐渐消失或被覆盖。
基于深度学习的Dst 预报模型
u014546828的博客
08-07 815
The Astrophysical Journal Supplement Series, 248:14 (11pp), 2020 MayPrediction of the Dst Index with Bagging Ensemble-learning Algorithm (iop.org)AbstractThe Dst index is a commonly geomagnetic index used to measure the strength of geomagnetic activity. Th
基于深度学习的模型可解释性
最新发布
weixin_42605076的博客
08-07 881
基于深度学习的模型可解释性是指开发和应用方法，使得复杂的深度学习模型能够被人类理解和解释。这对于增强模型的透明度、可信度和应用的安全性至关重要。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值