NNDL 作业6 卷积

已于 2023-12-10 16:10:37 修改
阅读量111 收藏
点赞数 4
文章标签： 深度学习 人工智能
于 2023-11-04 23:06:07 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_67043426/article/details/134190226
版权

 一、概念

用自己的语言描述“卷积、卷积核、特征图、特征选择、步长、填充、感受野”。

卷积：

设 f(x)和g(x) 是定义在无穷区间上的两个连续时间信号，则将积分                                  

定义为 f(x) 和g(x)的卷积（Convolution），记为f(x)*g(x)。

可以理解为，将一个图像与一个卷积核进行加权累加的过程。 

卷积和互相关

卷积计算需要进行卷积核翻转。翻转：旋转180°

互相关（不翻转卷积）是衡量两个序列相关性的函数，通常是用滑动窗口的点积计算来实现

互相关和卷积的区别仅仅在于卷积核是否进行翻转

卷积核：

卷积核，又叫滤波器，通常用于卷积操作中。在卷积过程中，卷积核会在输入图像上滑动，并对覆盖的像素进行加权求和，输出新的特征图。

特征图：

图像与卷积核加权累加得到卷积后的结果。

特征选择：

特征选择是指通过学习来选择哪些特征能够更好地表示数据。在卷积神经网络的训练过程中，网络会自动学习哪些特征对于解决任务最为重要，并且将这些特征加强和突出，同时忽略掉其他无关的特征。通过特征选择，卷积神经网络可以有效提取和利用输入数据中的信息，从而实现高效和准确的图像处理任务

步长：

步长是指卷积核在图像上滑动的步幅。也就是说，卷积核每次在图像上移动的距离，比如高度2 宽度2就是卷积核从左到右每次移动2，到图象边缘的时候回到初始位置在向下移动2。

填充：

填充(padding)是指在输⼊⾼和宽的两侧填充元素(通常是0元素)。

对原始矩阵进行填充，可以减少边缘信息丢失。

卷积的结果按输出长度不同可以分为三类:
窄卷积:步长S=1，两端不补零P=0，输出长度为M-K+ 1

宽卷积:步长S=1，两端补零P=K-1，输出长度M+ K- 1

等宽卷积:步长S=1，两端补零P=(K- 1)/2，输出长度M

常用的两种padding：

（1）valid padding：不进行任何处理，只使用原始图像，不允许卷积核超出原始图像边界

（2）same padding：进行填充，允许卷积核超出原始图像边界，并使得卷积后结果的大小与原来的一致 

感受野：

感受野是CNN每一层输出的特征图上的像素点在输入图像上映射的区域大小。

二、探究不同卷积核的作用


卷积神经网络工作原理的直观理解_superdont的博客-CSDN博客

​​​

1. 图1分别使用卷积核\left ( 1 -1 \right ),\binom{1}{-1}​，输出特征图

# -*- coding: utf-8 -*-
import numpy as np
import torch
import matplotlib.pyplot as plt

plt.rcParams['font.sans-serif'] = ['SimHei']  # 用来正常显示中文标签
plt.rcParams['axes.unicode_minus'] = False  # 用来正常显示负号

w1 = np.array([1, -1], dtype='float32').reshape([1, 1, 1, 2])
w2 = np.array([1, -1], dtype='float32').T.reshape([1, 1, 2, 1])
print(w2)
w1 = torch.Tensor(w1)
w2 = torch.Tensor(w2)
conv1 = torch.nn.Conv2d(1, 1, [1, 2])
conv1.weight = torch.nn.Parameter(w1)

conv2 = torch.nn.Conv2d(1, 1, [2, 1])
conv2.weight = torch.nn.Parameter(w2)
# 创建图像
img = np.ones([7, 6], dtype='float32')
img[:, 3:] = 0.
img[:, :3] = 255.
x = img.reshape([1, 1, 7, 6])
x = torch.Tensor(x)

y1 = conv1(x).detach().numpy()
y2 = conv2(x).detach().numpy()
plt.subplot(131).set_title('图1')
plt.imshow(img, cmap='gray')
plt.subplot(132).set_title('卷积核为(1,-1)结果')
plt.imshow(y1.squeeze(), cmap='gray')
plt.subplot(133).set_title('卷积核为(1,-1)T结果')
plt.imshow(y2.squeeze(), cmap='gray')
plt.show()

2. 图2分别使用卷积核​\left ( 1 -1 \right ),\binom{1}{-1}​，，输出特征图

# -*- coding: utf-8 -*-
import numpy as np
import torch
import matplotlib.pyplot as plt

plt.rcParams['font.sans-serif'] = ['SimHei']  # 用来正常显示中文标签
plt.rcParams['axes.unicode_minus'] = False  # 用来正常显示负号

w1 = np.array([1, -1], dtype='float32').reshape([1, 1, 1, 2])
w2 = np.array([1, -1], dtype='float32').T.reshape([1, 1, 2, 1])
print(w2)
w1 = torch.Tensor(w1)
w2 = torch.Tensor(w2)
conv1 = torch.nn.Conv2d(1, 1, [1, 2])
conv1.weight = torch.nn.Parameter(w1)

conv2 = torch.nn.Conv2d(1, 1, [2, 1])
conv2.weight = torch.nn.Parameter(w2)
# 创建图像
img = np.ones([8, 8], dtype='float32')
img[:4, :4] = 0.
img[:4, 4:] = 255.
img[4:, :4] = 255.
img[4:, 4:] = 0.

x = img.reshape([1, 1, 8, 8])
x = torch.Tensor(x)

y1 = conv1(x).detach().numpy()
y2 = conv2(x).detach().numpy()
plt.subplot(131).set_title('图2')
plt.imshow(img, cmap='gray')
plt.subplot(132).set_title('卷积核为(1,-1)结果')
plt.imshow(y1.squeeze(), cmap='gray')
plt.subplot(133).set_title('卷积核为(1,-1)T结果')
plt.imshow(y2.squeeze(), cmap='gray')
plt.show()

3. 图3分别使用卷积核\left ( 1 -1 \right ),\binom{1}{-1}​，​,输出特征图 

# -*- coding: utf-8 -*-
import numpy as np
import torch
import matplotlib.pyplot as plt

plt.rcParams['font.sans-serif'] = ['SimHei']  # 用来正常显示中文标签
plt.rcParams['axes.unicode_minus'] = False  # 用来正常显示负号

w1 = np.array([1, -1], dtype='float32').reshape([1, 1, 1, 2])
w2 = np.array([1, -1], dtype='float32').T.reshape([1, 1, 2, 1])
w3 = np.array([[1, -1, -1, 1]], dtype='float32').reshape([1, 1, 2, 2])

print(w3)
w1 = torch.Tensor(w1)
w2 = torch.Tensor(w2)
w3 = torch.Tensor(w3)

conv1 = torch.nn.Conv2d(1, 1, [1, 2])
conv1.weight = torch.nn.Parameter(w1)

conv2 = torch.nn.Conv2d(1, 1, [2, 1])
conv2.weight = torch.nn.Parameter(w2)

conv3 = torch.nn.Conv2d(1, 1, [2, 2])
conv3.weight = torch.nn.Parameter(w3)
# 创建图像
img = np.ones([9, 9], dtype='float32')
for i in range(7):
    img[i + 1, i + 1] = 255.
    img[i + 1, 7 - i] = 255.

x = img.reshape([1, 1, 9, 9])
x = torch.Tensor(x)

y1 = conv1(x).detach().numpy()
y2 = conv2(x).detach().numpy()
y3 = conv3(x).detach().numpy()
plt.subplot(221).set_title('图3')
plt.imshow(img, cmap='gray')
plt.subplot(222).set_title('卷积核为(1,-1)结果')
plt.imshow(y1.squeeze(), cmap='gray')
plt.subplot(223).set_title('卷积核为(1,-1)T结果')
plt.imshow(y2.squeeze(), cmap='gray')
plt.subplot(224).set_title('卷积核为[[1 -1],[-1 1]]结果')
plt.imshow(y3.squeeze(), cmap='gray')
plt.show()

4. 实现灰度图的边缘检测、锐化、模糊

边缘检测

[-1, -1, -1]
[-1,  8, -1]
[-1, -1, -1]
# coding=gbk
import numpy as np
import torch
from torch import nn
from torch.autograd import Variable
from PIL import Image
import matplotlib.pyplot as plt

plt.rcParams['font.sans-serif'] = ['SimHei']  # 用来正常显示中文标签
plt.rcParams['axes.unicode_minus'] = False  # 用来正常显示负号 #有中文出现的情况，需要u'内容
file_path = 'deer.jpg'
im = Image.open(file_path).convert('L')  # 读入一张灰度图的图片
im = np.array(im, dtype='float32')  # 将其转换为一个矩阵
print(im.shape[0], im.shape[1])

plt.imshow(im.astype('uint8'), cmap='gray')  # 可视化图片
plt.title('原图')
plt.show()

im = torch.from_numpy(im.reshape((1, 1, im.shape[0], im.shape[1])))
conv1 = nn.Conv2d(1, 1, 3, bias=False, padding=1)  # 定义卷积

sobel_kernel = np.array([[-1, -1, -1],
                         [-1, 8, -1],
                         [-1, -1, -1]], dtype='float32')  # 定义轮廓检测算子
sobel_kernel = sobel_kernel.reshape((1, 1, 3, 3))  # 适配卷积的输入输出
conv1.weight.data = torch.from_numpy(sobel_kernel)  # 给卷积的 kernel 赋值

edge1 = conv1(Variable(im))  # 作用在图片上
for i in range(edge1.shape[2]):
    for j in range(edge1.shape[3]):
        if edge1[0][0][i][j] > 255:
            edge1[0][0][i][j] = 255
        if edge1[0][0][i][j] < 0:
            edge1[0][0][i][j] = 0
x = edge1.data.squeeze().numpy()

print(x.shape)  # 输出大小

plt.imshow(x, cmap='gray')
plt.title('边缘检测')
plt.show()

锐化 

 [0,  -1, 0]
 [-1, 5, -1]
 [0,  -1, 0]

import numpy as np
import torch
from torch import nn
from torch.autograd import Variable
from PIL import Image
import matplotlib.pyplot as plt

plt.rcParams['font.sans-serif'] = ['SimHei']  # 用来正常显示中文标签
plt.rcParams['axes.unicode_minus'] = False  # 用来正常显示负号 #有中文出现的情况，需要u'内容
file_path = 'deer.jpg'
im = Image.open(file_path).convert('L')  # 读入一张灰度图的图片
im = np.array(im, dtype='float32')  # 将其转换为一个矩阵
print(im.shape[0], im.shape[1])

plt.imshow(im.astype('uint8'), cmap='gray')  # 可视化图片
plt.title('原图')
plt.show()

im = torch.from_numpy(im.reshape((1, 1, im.shape[0], im.shape[1])))
conv1 = nn.Conv2d(1, 1, 3, bias=False, padding=1)  # 定义卷积

sobel_kernel = np.array([[0, -1, 0],
                         [-1, 5, -1],
                         [0, -1, 0]], dtype='float32')  # 定义轮廓检测算子
sobel_kernel = sobel_kernel.reshape((1, 1, 3, 3))  # 适配卷积的输入输出
conv1.weight.data = torch.from_numpy(sobel_kernel)  # 给卷积的 kernel 赋值

edge1 = conv1(Variable(im))  # 作用在图片上
for i in range(edge1.shape[2]):
    for j in range(edge1.shape[3]):
        if edge1[0][0][i][j] > 255:
            edge1[0][0][i][j] = 255
        if edge1[0][0][i][j] < 0:
            edge1[0][0][i][j] = 0
x = edge1.data.squeeze().numpy()

print(x.shape)  # 输出大小

plt.imshow(x, cmap='gray')
plt.title('锐化')
plt.show()

 

 模糊

[0.0625, 0.125, 0.0625]
[ 0.125,  0.25,  0.125]
[0.0625, 0.125, 0.0625]
# coding=gbk
import numpy as np
import torch
from torch import nn
from torch.autograd import Variable
from PIL import Image
import matplotlib.pyplot as plt

plt.rcParams['font.sans-serif'] = ['SimHei']  # 用来正常显示中文标签
plt.rcParams['axes.unicode_minus'] = False  # 用来正常显示负号 #有中文出现的情况，需要u'内容
file_path = 'deer.jpg'
im = Image.open(file_path).convert('L')  # 读入一张灰度图的图片
im = np.array(im, dtype='float32')  # 将其转换为一个矩阵
print(im.shape[0], im.shape[1])

plt.imshow(im.astype('uint8'), cmap='gray')  # 可视化图片
plt.title('原图')
plt.show()

im = torch.from_numpy(im.reshape((1, 1, im.shape[0], im.shape[1])))
conv1 = nn.Conv2d(1, 1, 3, bias=False, padding=1)  # 定义卷积

sobel_kernel = np.array([[0.0625, 0.125, 0.0625],
                         [0.125, 0.25, 0.125],
                         [0.0625, 0.125, 0.0625]], dtype='float32')  # 定义轮廓检测算子
sobel_kernel = sobel_kernel.reshape((1, 1, 3, 3))  # 适配卷积的输入输出
conv1.weight.data = torch.from_numpy(sobel_kernel)  # 给卷积的 kernel 赋值

edge1 = conv1(Variable(im))  # 作用在图片上
for i in range(edge1.shape[2]):
    for j in range(edge1.shape[3]):
        if edge1[0][0][i][j] > 255:
            edge1[0][0][i][j] = 255
        if edge1[0][0][i][j] < 0:
            edge1[0][0][i][j] = 0
x = edge1.data.squeeze().numpy()

print(x.shape)  # 输出大小

plt.imshow(x, cmap='gray')
plt.title('模糊')
plt.show()

 

5. 总结不同卷积核的特征和作用。

边缘检测：标识数字图像中亮度变化明显的点，这些点往往是轮廓或边缘

​​锐化：快速聚焦模糊边缘，提高图像中某一部位的清晰度或者焦距程度，使图像特定区域的色彩更加鲜明。

模糊：处理图中与周围亮度差异过大的点，使其和周围点相似，以此消除或模糊轮廓。 

 ​                

参考链接：【23-24 秋学期】NNDL 作业6 卷积-CSDN博客

                     AI作业7-卷积_ulvuo的博客-CSDN博客

                  【精选】NNDL 作业5：卷积_笼子里的薛定谔的博客-CSDN博客

                 【精选】NNDL 作业5：卷积_cmap='gray-CSDN博客

এ琳
关注
[23-24 秋学期]NNDL 作业6 卷积 [HBU]
weixin_63010525的博客
11-03 478
卷积神经网络入门
【23-24 秋学期】NNDL 作业6 卷积
Notebook
11-02 500
​​​​。
NNDL作业六 卷积
m0_63591032的博客
11-06 97
但是，这不是一个完全有关图形的卷积，所以只能看出好看了一点，含有数字表示的像素图形（就是那种n*n的矩阵那种）做卷积，将所属g函数所指代部分翻转，会直接明了（不详讲，感兴趣可搜搜了解）读到这，你是否也会小问号，这和平时接触的卷积有什么关系，别急，先别急。
NNDL 作业6 卷积神经网络的相关知识点
q100112的博客
11-05 274
【注意】：感觉其实咱们学的卷积神经网络，就是不断训练学这些卷积核取什么值，然后提取一定的特征，然后根据学到的参数去分类或回归得到数量和位置等。【卷积核的规则】1.卷积核的大小一般是奇数，这样的话它是按照中间的像素点中心对称的，所以卷积核一般都是3×3，5×5或者7×7。有中心了，也有了半径的称呼，例如5×5大小的核的半径就是2。2.卷积核所有的元素之和一般要等于1，这是为了原始图像的能量（亮度）守恒。其实也有卷积核元素相加不为1的情况。
NNDL 作业5 卷积
qq_61291372的博客
10-18 1323
卷积
NNDL 作业六 卷积基础知识
m0_63010299的博客
11-06 206
卷积核特征作用上边缘检测\mathbf{上边缘检测}上边缘检测121000−1−2−1​10−1​20−2​10−1​​一侧的权重为正，另一侧的权重为负具体来说，卷积核中的第一行表示在当前像素点的上方，对应的像素点的权重为1、2、1。而第三行表示在当前像素点的下方，对应的像素点的权重为-1、-2、-1。第二行没有权重，是为了使卷积核的中心点不影响检测的结果。锐化\mathbf{锐化}锐化0−10−15−10−10​。
NNDL 作业八 卷积 导数 反向传播
weixin_63316615的博客
11-19 207
在膨胀卷积中，输出的每个元素是通过将卷积核的元素与输入张量进行点积计算得到的，但不同于传统卷积，这里的卷积核元素之间存在间隔。其中，(w) 是卷积核，(x) 是输入数据，(\ast) 表示卷积操作，(b) 是偏差。一个1 × 1卷积核， 先得到100 × 100 × 64的特征映射， 再进行3 × 3的卷积， 得到。对于一个输入为100 × 100 × 256的特征映射组， 使用3 × 3的卷积核， 输。对于一个二维卷积， 输入为3 × 3， 卷积核大小为2 × 2， 试将卷积操作重。
NNDL 作业8 卷积 导数 反向传播
t2786024916的博客
11-25 1159
习题5-2。
NNDL 作业5：卷积
m0_63172447的博客
10-16 661
当stride=20时：由图可知，当增加步长时，图像的会变得模糊。原图模糊边缘检测通过本次实验回顾了卷积、卷积核、特征图、特征选择、步长、填充、感受野的概念，conv2d函数的使用，深入探究了不同卷积核的作用，并且编程实现了灰度图的边缘检测，锐化，模糊等，并且对图像卷积步长改变不同得出结果不同，有了更加深刻地体会。
NNDL 作业6：基于CNN的XO识别
qq_52551768的博客
10-22 452
NNDL 作业6：基于CNN进行XO识别
NNDL 作业7：第五章课后题（1×1 卷积核 | CNN BP）
Guo_weiqi的博客
10-30 169
NNDL 作业7：第五章课后题（1×1 卷积核 | CNN BP）
深度学习-理论知识
qq_63961628的博客
10-31 391
深度学习（Deep Learning）是机器学习的一个子领域，它利用多层人工神经网络来模拟人脑的结构和功能，从而在复杂数据的分析、理解和生成上表现出色。深度学习是当前人工智能（AI）研究的核心技术之一，已广泛应用于图像识别、自然语言处理、自动驾驶等领域。下面，我将为你详细介绍深度学习的理论知识。
【车辆车型识别】Python+卷积神经网络算法+深度学习+人工智能+TensorFlow+算法模型
子午的博客
11-01 562
车辆车型识别，使用Python作为主要编程语言，通过收集多种车辆车型图像数据集，然后基于TensorFlow搭建卷积网络算法模型，并对数据集进行训练，最后得到一个识别精度较高的模型文件。再基于Django搭建web网页端操作界面，实现用户上传一张车辆图片识别其类型。局部感知能力：通过卷积层，CNN能够捕捉图像的局部特征，如边缘和纹理信息，这使得它在处理图像时具有空间感知能力。参数共享：卷积层中的权重在整个输入图像上共享，减少了模型的参数数量，降低了过拟合的风险，并提高了训练效率。平移不变性。
深度学习基础知识-残差网络ResNet
lqq
11-01 1137
是由何恺明等人于 2015 年提出的一种深层卷积神经网络结构。它在 ILSVRC 2015 比赛中取得了图像分类、检测等多个任务的突破性成果。ResNet 的主要创新在于引入了“残差连接”（Residual Connections），有效地解决了深层神经网络的梯度消失和梯度爆炸问题，使得网络可以堆叠更多层，显著提升模型的表达能力和分类效果。
《Keras3 深度学习初探：开启Keras3 深度学习之旅》
zheng_ruiguo的专栏
11-01 729
Keras3 以其易于使用、模块化和高度可扩展性等特点，为深度学习开发者提供了强大而灵活的工具。无论是新手还是经验丰富的专家，都能在 Keras3 中找到适合自己的开发方式，实现创新和突破。Keras3 作为一个强大的深度学习框架，具有巨大的发展潜力。在未来，它将继续为深度学习开发者提供强大的工具，推动深度学习技术的不断发展和应用。
【深度学习】DreamClear：提升图片分辨率的模型
q742971636的博客
11-01 133
DreamClear是由发布的一个开源项目，旨在通过高容量的模型和隐私安全的数据集构建方法，实现真实世界图像的高效修复。该项目在 NeurIPS 2024 上发表，论文题为《DreamClear: High-Capacity Real-World Image Restoration with Privacy-Safe Dataset Curation》。
Nature文章《deep learning》文章翻译
vyvyvyvtfr的博客
10-30 889
这篇文章是对Nature上《deep learning》文章的翻译。原作者 Yann LeCun, Yoshua Bengio& Geoffrey Hinton。
AI开发-三方库-torch-torchvision
最新发布
深度安全实验室
11-04 295
AI开发-三方库-torch-torchvision
深度学习入门：神经网络与Michael Nielsen的NNDL中文版详解
"《神经网络与深度学习》(Neural Networks and Deep Learning) 是Michael Nielsen的一部经典著作，中文版由Xiaohu Zhu和Freeman Zhang翻译，于2016年8月8日发布。该书专注于深度学习的基础理论，尤其强调了神经网络...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值