NNDL 作业5：卷积

于 2022-10-17 07:18:25 发布
阅读量115 收藏
点赞数 1
文章标签： python 深度学习 开发语言
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_73478739/article/details/127351614
版权

目录

作业1

编程实现

作业2

一、概念

二、探究不同卷积核的作用

三、编程实现

1、实现灰度图的边缘检测、锐化、模糊。（必做）

2、调整卷积核参数，测试并总结。（必做）

3、使用不同尺寸图片，测试并总结。（必做）

4、探索更多类型卷积核。（选做）

5、尝试彩色图片边缘检测。（选做）

总结

参考代码 

作业1

编程实现

91fdec5f7c7d404097724bc53403db9b.png

卷积神经网络工作原理的直观理解_superdont的博客-CSDN博客

1. 图1使用卷积核gif.latex?%5Cbegin%7Bpmatrix%7D%201%20%26%20-1%20%5Cend%7Bpmatrix%7D，输出特征图 

import numpy as np
import torch
from torch import nn
from torch.autograd import Variable
import matplotlib.pyplot as plt

plt.rcParams['font.sans-serif'] = ['SimHei']  # 用来正常显示中文标签
plt.rcParams['axes.unicode_minus'] = False  # 用来正常显示负号 #有中文出现的情况，需要u'内容
# https://blog.csdn.net/weixin_40123108/article/details/83510592
#图1
im = np.array([[0,0,0,255,255,255],
               [0,0,0,255,255,255],
               [0,0,0,255,255,255],
               [0,0,0,255,255,255],
               [0,0,0,255,255,255],
               [0,0,0,255,255,255],
               [0,0,0,255,255,255]], dtype='float32')  # 将其转换为一个矩阵

print(im.shape[0], im.shape[1])
plt.imshow(im.astype('uint8'), cmap='gray')  # 可视化图片
plt.title('原图')
plt.show()

im = torch.from_numpy(im.reshape((1, 1, im.shape[0], im.shape[1])))
conv1 = nn.Conv2d(1, 1, (1,2), bias=False)  # 定义卷积

sobel_kernel = np.array([[1,-1]], dtype='float32')  # 定义轮廓检测算子
sobel_kernel = sobel_kernel.reshape((1, 1, 1, 2))  # 适配卷积的输入输出
conv1.weight.data = torch.from_numpy(sobel_kernel)  # 给卷积的 kernel 赋值

edge1 = conv1(Variable(im))  # 作用在图片上

x = edge1.data.squeeze().numpy()
print(x.shape)  # 输出大小

plt.imshow(x, cmap='gray')
plt.show()

fc48966819f340ddb1c8d1db99821438.png

卷积后：

794e2668c291490dad904b6b2dfbc271.png

2. 图1使用卷积核gif.latex?%5Cbegin%7Bpmatrix%7D%201%5C%5C%20-1%5C%5C%20%5Cend%7Bpmatrix%7D，输出特征图

conv1 = nn.Conv2d(1, 1, (1, 2), bias=False)  # 定义卷积

sobel_kernel = np.array([[1, -1],
                         [-1, 1]], dtype='float32')  # 定义轮廓检测算子
sobel_kernel = sobel_kernel.reshape((1, 1, 2, 2))  # 适配卷积的输入输出

cfd613b11b4148a6a49972feecf2863b.png

3. 图2使用卷积核gif.latex?%5Cbegin%7Bpmatrix%7D%201%20%26%20-1%20%5Cend%7Bpmatrix%7D，输出特征图

import numpy as np
import torch
from torch import nn
from torch.autograd import Variable
import matplotlib.pyplot as plt

plt.rcParams['font.sans-serif'] = ['SimHei']  # 用来正常显示中文标签
plt.rcParams['axes.unicode_minus'] = False  # 用来正常显示负号 #有中文出现的情况，需要u'内容
# https://blog.csdn.net/weixin_40123108/article/details/83510592

#图2
im = np.array([[0, 0, 0, 255, 255, 255],
               [0, 0, 0, 255, 255, 255],
               [0, 0, 0, 255, 255, 255],
               [255, 255, 255, 0, 0, 0],
               [255, 255, 255, 0, 0, 0],
               [255, 255, 255, 0, 0, 0]], dtype='float32')  # 将其转换为一个矩阵

print(im.shape[0], im.shape[1])
plt.imshow(im.astype('uint8'), cmap='gray')  # 可视化图片
plt.title('原图')
plt.show()

im = torch.from_numpy(im.reshape((1, 1, im.shape[0], im.shape[1])))
conv1 = nn.Conv2d(1, 1, (1,2), bias=False)  # 定义卷积

sobel_kernel = np.array([[1,-1]], dtype='float32')  # 定义轮廓检测算子
sobel_kernel = sobel_kernel.reshape((1, 1, 1, 2))  # 适配卷积的输入输出
conv1.weight.data = torch.from_numpy(sobel_kernel)  # 给卷积的 kernel 赋值

edge1 = conv1(Variable(im))  # 作用在图片上

x = edge1.data.squeeze().numpy()
print(x.shape)  # 输出大小

plt.imshow(x, cmap='gray')
plt.show()

cfd9ff2b1f9e47788775d73038e68208.png

卷积后：

80ff4df87e3c41ca807f179120397bb7.png

4. 图2使用卷积核gif.latex?%5Cbegin%7Bpmatrix%7D%201%5C%5C%20-1%5C%5C%20%5Cend%7Bpmatrix%7D，输出特征图 

4478fb169c494a3da1e6b26d3d9da454.png

5. 图3使用卷积核gif.latex?%5Cbegin%7Bpmatrix%7D%201%20%26%20-1%20%5Cend%7Bpmatrix%7D，gif.latex?%5Cbegin%7Bpmatrix%7D%201%5C%5C%20-1%5C%5C%20%5Cend%7Bpmatrix%7D，gif.latex?%5Cbegin%7Bpmatrix%7D%201%20%26-1%20%5C%5C%20-1%261%20%5Cend%7Bpmatrix%7D ，输出特征图 

import numpy as np
import torch
from torch import nn
from torch.autograd import Variable
import matplotlib.pyplot as plt

plt.rcParams['font.sans-serif'] = ['SimHei']  # 用来正常显示中文标签
plt.rcParams['axes.unicode_minus'] = False  # 用来正常显示负号 #有中文出现的情况，需要u'内容
# https://blog.csdn.net/weixin_40123108/article/details/83510592

#图3
im = np.array([[0, 0, 0, 0, 0, 0, 0, 0, 0],
               [0, 255, 0, 0, 0, 0, 0, 255, 0],
               [0, 0, 255, 0, 0, 0, 255, 0, 0],
               [0, 0, 0, 255, 0, 255, 0, 0, 0],
               [0, 0, 0, 0, 255, 0, 0, 0, 0],
               [0, 0, 0, 255, 0, 255, 0, 0, 0],
               [0, 0, 255, 0, 0, 0, 255, 0, 0],
               [0, 255, 0, 0, 0, 0, 0, 255, 0],
               [0, 0, 0, 0, 0, 0, 0, 0, 0],], dtype='float32')  # 将其转换为一个矩阵

print(im.shape[0], im.shape[1])
plt.imshow(im.astype('uint8'), cmap='gray')  # 可视化图片
plt.title('原图')
plt.show()

im = torch.from_numpy(im.reshape((1, 1, im.shape[0], im.shape[1])))
conv1 = nn.Conv2d(1, 1, (1,2), bias=False)  # 定义卷积

sobel_kernel = np.array([[1,-1]], dtype='float32')  # 定义轮廓检测算子
sobel_kernel = sobel_kernel.reshape((1, 1, 1, 2))  # 适配卷积的输入输出
conv1.weight.data = torch.from_numpy(sobel_kernel)  # 给卷积的 kernel 赋值

edge1 = conv1(Variable(im))  # 作用在图片上

x = edge1.data.squeeze().numpy()
print(x.shape)  # 输出大小

plt.imshow(x, cmap='gray')
plt.show()

172d625574bb42b0834fcff64efb4f9e.png

6ca6c5365fe74492a872c6d1ffe4373c.png 

e4f44bf2d8594c7fa7f10d21058c676f.png

5d38453d625a4f4bbb3bd73e8c4b8b2b.png

 

作业2

一、概念

卷积：

将图像矩阵中，从左到右，由上到下，取与滤波器同等大小的一部分，每一部分中的值与滤波器中的值对应相乘后求和，最后的结果组成一个矩阵，其中没有对核进行翻转。

卷积核：

卷积核就是图像处理时，给定输入图像，输入图像中一个小区域中像素加权平均后成为输出图像中的每个对应像素，其中权值由一个函数定义，这个函数称为卷积核。卷积神经网络中"卷积”，是为了提取图像的特征。

特征图：

每层卷积结束后得到的卷积值的组合就是特征图。

特征选择：

就是用来对原图像选择不同的卷积核进行特征提取的过程。

步长：

在进行卷积时，卷积核(滤波器)每次移动的像素单位。

填充：

在进行卷积操作前，对原矩阵进行边界填充，也就是在矩阵的边界上填充一些值，以增加矩阵的大小，通常都用“0”来进行填充的。

通过填充的方法，当卷积核扫描输入数据时，它能延伸到边缘以外的伪像素，从而使输出和输入size相同。

感受野：

卷积神经网络每一层输出的特征图（feature map）上的像素点在原始图像上映射的区域大小。指的是神经网络中神经元“看到的”输入区域。

二、探究不同卷积核的作用

参考：Image Kernels explained visually (setosa.io)

34d6f00c890649bc9017f1459ae59270.png

锐化：

锐化实际上就是计算当前点和周围点的差别，然后将这个差别加到原来的位置上

如果核的中心值是负数，就是在强调边缘，在锐化边缘

format,png

边缘检测：

931848d0564a46bda0252c80899626fb.png

979f33c5a4d5437d9f3acd43ec98ae0d.png

浮雕：

浮雕滤波器可以给图像一种3D阴影的效果。

只要将中心一边的像素减去另一边的像素就可以了。这时候，像素值有可能是负数，我们将负数当成阴影，将正数当成光，然后我们对结果图像加上128的偏移。这时候，图像大部分就变成灰色了。

45度的浮雕滤波器

watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2h4eGp4dw==,size_16,color_FFFFFF,t_70

三、编程实现

1、实现灰度图的边缘检测、锐化、模糊。（必做）

import numpy as np
import torch
from torch import nn
from torch.autograd import Variable
from PIL import Image
import matplotlib.pyplot as plt

plt.rcParams['font.sans-serif'] = ['SimHei']  # 用来正常显示中文标签
plt.rcParams['axes.unicode_minus'] = False  # 用来正常显示负号 #有中文出现的情况，需要u'内容
# https://blog.csdn.net/weixin_40123108/article/details/83510592
file_path = '皮卡丘1.jpg'
im = Image.open(file_path).convert('L')  # 读入一张灰度图的图片
im = np.array(im, dtype='float32')  # 将其转换为一个矩阵
print(im.shape[0], im.shape[1])
plt.imshow(im.astype('uint8'), cmap='gray')  # 可视化图片
plt.title('原图')
plt.show()

im = torch.from_numpy(im.reshape((1, 1, im.shape[0], im.shape[1])))
conv1 = nn.Conv2d(1, 1, 3, bias=False)  # 定义卷积

sobel_kernel = np.array([[-1, -1, -1],
                         [-1, 8, -1],
                         [-1, -1, -1]], dtype='float32')  # 定义轮廓检测算子
'''
# 锐化
sobel_kernel = np.array([[0, -1, 0],
                         [-1, 5, -1],
                         [0, -1, 0]], dtype='float32')  # 定义轮廓检测算子

# 模糊
sobel_kernel = np.array([[0.0625, 0.125, 0.0625],
                         [0.125, 0.25, 0.125],
                         [0.0625, 0.125, 0.0625]], dtype='float32')  # 定义轮廓检测算子
'''
sobel_kernel = sobel_kernel.reshape((1, 1, 3, 3))  # 适配卷积的输入输出
conv1.weight.data = torch.from_numpy(sobel_kernel)  # 给卷积的 kernel 赋值

edge1 = conv1(Variable(im))  # 作用在图片上

x = edge1.data.squeeze().numpy()
print(x.shape)  # 输出大小

plt.imshow(x, cmap='gray')
plt.show()

e0c692d936d749acabbc7bd54532e468.png

边缘检测：

035569caf52c42168dcb4c2c887ea4bb.png

锐化：

2143445f613746bc8333ff5de44029d3.png

模糊：

e8e15c7160864049a21512fcf4a9da76.png

2、调整卷积核参数，测试并总结。（必做）

以锐化为例：

57941fe1154841628f0dc6c2bbe82d32.png

当步长为1时：

4ec081587889494c88fec8025769492d.png

当步长为5时：

106d0f53f1d84e36b9642f1a6de528d1.png

当步长为10时：

28c39ccc4f5b48debbcced61e86edf3b.png

当步长为20时：

15cd57f57eed462f8045d0ce776c6517.png

步长越长，图像越模糊，图像的特征越不明显，可能有损失。 

3、使用不同尺寸图片，测试并总结。（必做）

793ae5986e004d73b929f75fc02430d1.png

边缘检测：

dc30178972b84af2832db2d66a877c7c.png

锐化：

b15b48e5391b40de884a1de9f8d8a88d.png

模糊：

a2385779b02a48c78cb2fc036820260e.png

对不同的图片，卷积的效果也有差异，该题中图片的边缘检测效果很清晰，不如前面的图片效果。模糊卷积后的效果也不是很好，模糊的效果不明显。

4、探索更多类型卷积核。（选做）

# 浮雕卷积核
sobel_kernel = np.array([[-2, -1, 0],
                         [-1, 1, -1],
                         [0, 1, 2]], dtype='float32')  # 定义轮廓检测算子

4f2d99f1c03941fba01f3f29c68a837b.png

# bottom sobel卷积核
sobel_kernel = np.array([[-1, -2, -1],
                         [0, 0, 0],
                         [1, 2, 1]], dtype='float32')  # 定义轮廓检测算子

acc5d4aa33484884a95e1ccbddd5d9d2.png

5、尝试彩色图片边缘检测。（选做）

import numpy as np
import torch
from torch import nn
from torch.autograd import Variable
import torch.nn.functional as F
from PIL import Image
import matplotlib.pyplot as plt

im = Image.open('皮卡丘1.jpg').convert('L') # 读入一张灰度图的图片
im = np.array(im, dtype='float32') # 将其转换为一个矩阵

plt.imshow(im.astype('uint8'), cmap='gray')
im = torch.from_numpy(im.reshape((1, 1, im.shape[0], im.shape[1])))

conv1 = nn.Conv2d(1, 1, (3,3), bias=False)  # 定义卷积
sobel_kernel = np.array([[-1, -1, -1],
                         [-1, 8, -1],
                         [-1, -1, -1]], dtype='float32')  # 定义轮廓检测算子
sobel_kernel = sobel_kernel.reshape((1, 1, 3, 3)) # 适配卷积的输入输出
conv1.weight.data = torch.from_numpy(sobel_kernel) # 给卷积的 kernel 赋值

edge1 = conv1(Variable(im)) # 作用在图片上
edge1 = edge1.data.squeeze().numpy() # 将输出转换为图片的格式
plt.imshow(edge1, cmap='gray')

plt.show()

bf8afb55fe1f4daaa6e986a7e3b437c6.jpeg58029ade1e7f46d88cd7b81ad0e7f99c.png

总结

本次作业的心得体会，重点谈谈卷积能够提取特征的原理。

卷积神经网络CNN实际上是通过带有label的训练数据来train由一个个特征判断系统中的运算法则，对于图像特征提取而言，系统的运算法则可能比较复杂，通过卷积的方式将复杂判断系统的运算法则变为一个个易于计算的卷积核，从而更方便地提取图像特征，完成对图像的分析与处理。

这次作业学习实践了对图像进行卷积的操作，特别是对图像特征的提取，了解体会了不同的卷积核对图像的影响和作用。这次作业是卷积神经网络学习的开始，加油！

参考代码 

import numpy as np
import torch
from torch import nn
from torch.autograd import Variable
from PIL import Image
import matplotlib.pyplot as plt
 
plt.rcParams['font.sans-serif'] = ['SimHei']  # 用来正常显示中文标签
plt.rcParams['axes.unicode_minus'] = False  # 用来正常显示负号 #有中文出现的情况，需要u'内容
# https://blog.csdn.net/weixin_40123108/article/details/83510592
file_path = 'deer.jpg'
im = Image.open(file_path).convert('L')  # 读入一张灰度图的图片
im = np.array(im, dtype='float32')  # 将其转换为一个矩阵
print(im.shape[0], im.shape[1])
plt.imshow(im.astype('uint8'), cmap='gray')  # 可视化图片
plt.title('原图')
plt.show()
 
im = torch.from_numpy(im.reshape((1, 1, im.shape[0], im.shape[1])))
conv1 = nn.Conv2d(1, 1, 3, bias=False)  # 定义卷积
 
sobel_kernel = np.array([[-1, -1, -1],
                         [-1, 8, -1],
                         [-1, -1, -1]], dtype='float32')  # 定义轮廓检测算子
sobel_kernel = sobel_kernel.reshape((1, 1, 3, 3))  # 适配卷积的输入输出
conv1.weight.data = torch.from_numpy(sobel_kernel)  # 给卷积的 kernel 赋值
 
edge1 = conv1(Variable(im))  # 作用在图片上
 
x = edge1.data.squeeze().numpy()
print(x.shape)  # 输出大小
 
plt.imshow(x, cmap='gray')
plt.show()

参考：

http://t.csdn.cn/GQ5ip

http://t.csdn.cn/XWzAt

http://t.csdn.cn/9PEyf

http://t.csdn.cn/mxZBv

 

Persevere~~~
关注
  • 1
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
python 实现卷积操作
jacke121的专栏
05-11 3544
python实现卷积操作 aaon22357 2018-12-27 15:03:09 9273 收藏 23 分类专栏： 深度学习 版权 文章目录 调用tf.nn.conv2d()实现卷积 自己实现卷积函数 我们知道，tensorflow里面自带卷积函数，tf.nn.conv2d()就可以实现相关功能，本文主要是自己实现卷积操作，然后和tf.nn.conv2d()函数的结果对比，验证正确性。 调用tf.nn.conv2d()实现卷积 首先是调用卷积函数实现卷积操作： 这里说明一下conv2d的定...
NNDL-solutions:迈克尔·尼尔森（Michael Nielsen）的《神经网络与深度学习》一书中的练习和问题的解决方案
05-03
NNDL解决方案 迈克尔·尼尔森（Michael Nielsen）的书《 （以及对Python 3和Theano 1.0.3的代码的改编）中的练习和问题的解决方案（数学和代码）。 在这里找到练习和问题的解决方案： 涉及数学： notebooks 涉及...
CNN的手动推导与卷积的代码逐行实现
peaunt1的博客
08-07 1228
CNN
实现卷积的几种代码方式
gldzkjdxwzs的博客
08-14 4566
对卷积代码的学习，有官方api调用和手写复现
PyTorch笔记 - Convolution卷积运算的原理 (3)
Mystra
08-10 725
矩阵和矩阵相乘，转换为行向量和列向量相乘，即 输入矩阵9个行向量 x kernel的列向量。用原始的矩阵运算来实现二维卷积, 考虑batchsize维度和channel维度, 4维。卷积操作包括5个参数：input、kernel、bias、stride、padding。与输入矩阵尺寸相同，填充kernel为0，计算矩阵相乘，转置卷积。flatten input版本：对比与直接矩阵相乘，torch.reshape() 操作。torch.numel() 操作。操作，多维向量变成1维向量。...
NNDL:神经网络和深度学习课程回购
04-12
作业5： 它由微型批次梯度下降优化器的实现组成，该优化器用于对点样本进行采样，这些点取自线y = 2 * x + 3的方程式。作业6： 在房屋价格数据集上实现小批量梯度下降。作业7： 它由批量梯度下降优化器的实现组成，...
锻炼：锻炼nndl
02-26
5.卷积神经网络卷积神经网络（CNN） 利用卷积神经网络，处理MNIST数据集分类问题。 6.循环神经网络 基于循环神经网络的唐诗生成问题 7.注意力机制 使用序列对模型进行建模。 使用注意序列对模型进行排序。 11.高斯...
NNDL:使用python的梯度下降算法
03-25
NNDL:使用python的梯度下降算法
NNDL:神经网络与深度学习
03-07
NNDL:神经网络与深度学习
nndl：神经网络和深度学习的另一种中文翻译
02-21
神经网络和深度学习的另一种中文翻译 这是迈克尔·尼尔森（Michael Nielsen）的《另一本（正在进行中的）中文译本，最初是我对这本免费在线书的学习笔记。 它是用LaTeX编写的，以使数学方程式和曲线图具有...$ cd nndl
NNDL
03-22
神经网络 作业 作业1 查找函数f（x）= x ^ 4 + 3 * x ^ 2 + 10的全局最小点和值。进行两次迭代的手动计算，并使用python编程找到最佳解决方案
实验环境5-1所需要的nndl包
最新发布
10-28
实验环境5-1所需要的nndl包
NNDL-18K41A0505:18K41A0505（CSE III SRU）-神经网络和深度学习作业
04-10
NNDL-18K41A0505 18K41A0505（CSE III SRU）-神经网络和深度学习作业作业01-梯度下降算法（Python实现和手动计算） 作业02-梯度下降算法-多变量（Python实现和手动计算） 作业03-随机梯度下降（SGD）算法（Python...
YOLO v2从原理到tensorflow2复现
人生虚空
11-07 3673
目录 原理篇： 一、YOLO v1回顾 二、YOLO v2介绍 代码篇 三、YOLO v2的tensorflow2实现 原理篇： 一、YOLO v1回顾 下图是YOLO v1的整体网络框架图： ●主要的检测思路： 1.首先使用CNN对输入图片提取出尺寸为S*S的特征图，特征图上每个像素点映射回原图就表示原图的1个区域，所以该特征图可以把原图分成S*S个网格区域。 ...
python中reshape
yueguizhilin的博客
01-11 4157
  比如 arr = [1,2,3,4,5,6,7,8,9] # 一个一维的list，长度为9 想把arr变成一个3*3的矩阵，这就可以用的reshape了，有两个方法，第一 arr.reshape(3,3) 这个很好理解，不多说，重点看第二个方法 arr.reshape(-1,3) 这样也可以把arr变成3*3的矩阵，这个-1代表的意思就是，我不知道可以分成多少行，但...
python中的reshape
热门推荐
方小汪的博客
01-31 1万+
小有改动,主要参考: python：shape和reshape()函数 python中reshape 在numpy中，shape和reshape()函数的功能都是对于数组的形状进行操作。shape函数可以了解数组的结构,reshape()函数可以对数组的结构进行改变。 shape import numpy as np #设置一个数组 a = np.array([1,2,3,4,5,6,7,8]) ...
opencv轮廓检测之FindContours函数算法解释
Ahuuua的博客
12-07 2038
在检测物体的轮廓时，我们通常会使用到opencv中的findcontour和drawcontour，比较常用而且效果不错。 1985年，satoshi suzuki发表了一篇论文，Topological structural analysis of digitized binary images by border following，他介绍了两种算法来实现轮廓的提取，当然输入的图像是二值图像。findcontour就是基于这篇论文的思路来实现。 一、论文首先介绍了基本概念 1. ...
2、编程练习：利用卷积神经网络，处理MNIST 数据集分类问题。 https://github.com/nndl/exercise/
05-04
好的，以下是处理 MNIST 数据集分类问题的卷积神经网络的代码： ```python import tensorflow as tf from tensorflow.examples.tutorials.mnist import input_data # 加载 MNIST 数据集 mnist = input_data.read_...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值