霹雳吧啦wz学习笔记1_卷积神经网络

已于 2023-08-28 14:32:50 修改
阅读量1k 收藏 7
点赞数 1
文章标签： 学习 cnn 深度学习
于 2022-12-02 17:15:48 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/jennnnnny101/article/details/128151403
版权

霹雳吧啦wz学习笔记1_卷积神经网络
卷积神经网络

CNN(Convolutional Neural Network)

它的雏形是1998年LeCun的LeNet网络结构，卷积神经网络发展历程中的第一个卷积神经网络
Convolutions 卷积层
Subsampling 下采样层
Full connection 全连接层
在Con这里插入图片描述
只要包含了卷基层的神经网络都可以理解为卷积神经网络

全连接层：
全连接层就是由许许多多的神经元共同连接而得来的
在这里插入图片描述
BP神经网络
如果将神经元按列进行排列，列与列之间进行全连接，就得到一个BP神经网络
在这里插入图片描述

  1. 从左到右的正向传播过程中能够得到一个输出值，将这个输出值和所期望的输出值进行对比就能得到一个误差值
  2. 通过计算每个节点的偏导数就能够计算得到每个节点的误差梯度
  3. 将得到的损失值反向应用到损失梯度上，就达到了误差的反向传播过程

卷积层：
卷积就是一个滑动窗口在我们的特征图上进行滑动并计算
计算的过程
卷积的计算方式
12:04

卷积的目的就是为了进行图像的特征提取

卷积的特性
拥有局部感知机制：以滑动窗口的形式在特征图上进行滑动计算，所以具有局部感知能力
权值共享：滑动过程中，卷积核的值不会发生变化，所以又具有权值共享的特性

权值共享的优势（对比BP神经网络）
这里的参数指的是神经元的权重
权值的共享使得卷积神经网络的参数个数大幅度减少

卷积的过程
在这里插入图片描述

实际应用过程中往往是对多维的特征矩阵进行卷积操作

卷积核的深度要和输入特征矩阵一致（这里的深度指的是channel，即通道数），都是三维的，最终卷积得到的矩阵是由三通道的输入特征矩阵和三通道的卷积核分别对应卷积，再对应相加后得到一个卷积矩阵

总结

1、卷积核的cahnnel与输入特征层的channel相同（都是三通道）
2、输出的特征矩阵channel与卷积核的个数相同（通过卷积核1和卷积核2最终得到一个两通道的输出特征矩阵）卷积的目的：进行图像特征提取
卷积核的channel与输入特征层的channel相同
输出的特征矩阵channel与卷积核个数相同

思考
1、如果加上偏移量bias该如何计算
卷积核1输出得到的特征矩阵，加上偏移量-1之后是0200
卷积核2输出得到的特征矩阵，加上偏移量1之后是2232

2、加上激活函数该如何计算？
常见的激活函数：sigmoid激活函数，Relu激活函数
在这里插入图片描述

  • 为什么要使用激活函数？在线性的计算过程中引入非线性因素，使其具备解决非线性问题的能力

  • Relu激活函数实际上是将负值全部过滤掉，只保留了正值不变，在实际应用中使用较多

  • 在反向传播误差的过程中，如果使用sigmoid激活函数，导数的求解非常麻烦

  • 如果使用Relu激活函数，权重如果进入失活状态后无法被再次激活，所以在训练的过程中，建议不要一开始就使用特别大的学习率进行学习，否则很容易导致大量神经元失活

  • 卷积过程中出现越界怎么处理：通过padding，补0进行处理
    在这里插入图片描述

  • padding的像素p：一般实际应用过程中是两边同时补零，即左右上下进行对称的：补零操作

  • 上图中只补了一边，所以只用加上一个p就够了

  • N = （ 4 - 3 + 1 ）/ 2 + 1 = 2 ，所以最后得到一个2*2的特征矩阵
    AveragePooling平均下采样层（取平均值）

池化层
池化层的目的：对特征图进行稀疏处理，减少数据运算量
MaxPooling最大池化下采样层（取最大值）
在这里插入图片描述

averagepooling下采样层：寻找池化核对应范围内的平均值来进行平均下采样操作
在这里插入图片描述
池化层的特点：
1.没有训练参数
2.只改变特征矩阵的w和h，不改变channel
3.一般poolsize和stride相同

zzz不摸鱼
关注
  • 1
    点赞
  • 踩
  • 7
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
卷积神经网络基本概念1
08-08
步长(Stride)：滑动卷积核时，我们会先从输入的左上角开始，每次往左滑动一列或者往下滑动一行逐一计算输出，我们将每次滑动的行数和列数称为Stride上采样和
基于卷积网络的帧率提升算法研究1
08-04
摘要：基于运动补偿的帧率提升算法是目前主要的帧率提升方法。为减小内插帧中的块效应、孔洞和遮挡问题，提高插值帧质量，提出一种基于卷积神经网络( convol ut
霹雳吧啦Wz语义分割学习笔记P4
快乐卷心菜的博客
04-16 629
P4.膨胀卷积（Dilated Convolution）空洞卷积（Atrous Convolution) 1膨胀卷积的作用 增大感受野 保持原输入特征图W、H kernel元素间存在间隙即膨胀因子r（r=1，相邻，即普通卷积） 因为没有设置padding，所以高宽发生了改变。若padding=1，则保持原输入特征图W、H FCN网络在backbone中下采样32倍，然后经过上采样还原回原图尺寸。若下采样倍率过大，对还原回原图尺寸将产生很大的影响。VGG16网络通过MaxPooling层进行池
霹雳吧啦Wz语义分割学习笔记P1
快乐卷心菜的博客
04-13 2549
P1.语义分割前言 什么是语义分割
深度学习之图像分割（三）—— 空洞卷积/膨胀卷积（霹雳吧啦wz）
qq_44832832的博客
02-17 1952
Gridding effect：没有用到范围内的所有像素值，而只使用到了一部分。非零元素中间有0元素（没有使用到的元素），因此一定会失去一部分信息。Mi就等于第i层两个非零元素之间的距离，ri就等于第i层的膨胀系数。我们的目标是M2≤K。根据三个膨胀系数，计算值是否合适。2.保持原输入特征图W、H（一般通过padding）
霹雳吧啦Wz语义分割学习笔记P7
快乐卷心菜的博客
04-16 3124
P7.DeepLabV2网络简介 1.前言 Deeplab:Semantic Image Segmentation with Deep Convolutional Nets, Atrous Convolution, and Fully Connected CRFs 2016 CVPR https://arxiv.org/abs/1606.00915 换了backbone——ResNet 引入了一个新的结构——ASPP DCNNs应用在语义分割任务中的问题 分辨率被降低（主要由于下采样strid
霹雳吧啦Wz语义分割学习笔记P11
快乐卷心菜的博客
04-21 3727
P11.U-Net网络结构讲解 U-Net:Convolutional Networks for Biomedical Image Segmentation MICCAI 2015 生物医学影像 https://arxiv.org/abs/1505.04597 encoder：左边，特征提取下采样 contracting path decoder：右边，通过一系列上采样得到最后的分割图 expansive path 输入为572x572的单通道图片，通过3x3的卷积层（stride=1，
实验一_汇编霹雳灯_霹雳灯_霹雳灯c代码_霹雳灯C语言_
10-01
利用c语言反汇编汇编语言，从而实现霹雳灯
51_霹雳灯.zip
09-16
sbit P1_1 = P1^1;//定义按键端口 sbit P1_2 = P1^2;//定义 sbit P1_3 = P1^3;//定义按键端口 sbit P1_4 = P1^4;//定义按键端口 sbit P1_5 = P1^5;//定义 sbit P1_6 = P1^6;//定义按键端口 sbit P1_7 = P3^3;//定义...
javascript数组笔记1
08-08
数组的方法添加-push（元素）， 向数组尾部添加值，可以是数字，字符串，数组等-unshift（元素）， 向数组头部添加值，可以是数字，字符串，数组等删除-p
深度学习之跟学霹雳吧啦Wz笔记
丶玉面小蛟龙的博客
06-03 3679
大佬的B站空间 LeNet:卷积神经网络的第一篇实际应用。 这个网络，大佬视频讲解的很清楚，我个话痴就不多言了。 LeNet代码中学到的新东西 pytorch的数据的格式[batch_size,channel,height,width],即[图片数量，图片深度（通道），图片高度，图片宽度] pytorch的卷积Conv函数（卷积核通道数，卷积核个数，卷积核尺寸，卷积步长，卷积填充） transform函数，作用好像是图像数据预处理成tensor变量，划定尺寸，自定义分割等等。 函数iter(),自动迭代
霹雳吧啦 目标检测 学习笔记
hello world
06-12 2269
霹雳吧啦Wz的个人空间-霹雳吧啦Wz个人主页-哔哩哔哩视频目标检测篇 github地址；GitHub - WZMIAOMIAO/deep-learning-for-image-processing: deep learning for image processing including classification and object-detection etc.
深度学习之图像分割（一）—— 前言（霹雳吧啦wz）
qq_44832832的博客
02-12 530
每一种不同的物体对应的都有一种颜色，例如人对应的就是粉红色使用调色板模式存储，图片是一通道，但是每个像素都对应一个颜色（0～255）像素0对应的是（0，0，0）黑色像素1对应的是（127，0，0）深红色像素255对应的是（224，224，129）目标边缘真实和预测面积的交集比上他们面积的并集。
霹雳吧啦Wz语义分割学习笔记P3
快乐卷心菜的博客
04-14 885
P3.FCN网络结构详解 Fully Convolutional Networks for Semantic Segmentation 2015CVPR https://arxiv.org/abs/1411.4038 首个端对端的针对像素级预测的全卷积网络 全卷积：将分类网络中的全连接层全部替换为卷积层 ...
霹雳吧啦Wz语义分割学习笔记P10
快乐卷心菜的博客
04-21 2028
P10.LR-ASPP源码讲解 train predict与fcn源码章节相同，唯一不同的是create_model创建的是lraspp结构（在src文件夹中的lraspp_model） def lraspp_mobilenetv3_large(num_classes=21, pretrain_backbone=False):#定义函数实例化lraspp模型 # 'mobilenetv3_large_imagenet': 'https://download.pytorch.org/models
colab跑通YOLOV3SPP（代码来自霹雳巴拉WZ）
Sep21m_wyy的博客
01-11 299
在colab上跑通霹雳巴拉wz博主的yolov3spp代码，以及其中遇到的一些问题
【视频学习笔记】（霹雳吧啦Wz）MobileNet 系列
qq_36627158的博客
07-27 2860
霹雳吧啦Wz 的 MobileNet 系列视频学习笔记~整理方便复习~
霹雳吧啦Wz Mask R-CNN网络详解 学习笔记
broadrab的博客
07-30 363
Mask R-CNN是一种目标检测算法，它在 Faster R-CNN 的基础上进行了改进，可以同时实现目标检测和语义分割。Mask R-CNN实现的最主要的功能是他可以对图像进行实例分割。由上图不难看出，语义分割是可以将同一类物体从背景中分割出来并生成物体掩码，而实例分割则对物体进行了更精细的划分，针对不同的物体我们可以看到分割出来的蒙版颜色是不同的，Mask R-CNN能够对每个类别不同的个体实现实例级分割。
霹雳吧啦Wz语义分割学习笔记P8
快乐卷心菜的博客
04-16 1763
P8.DeepLabV3网络简介 1.前言 Rethinking Astrous Convolution for Semantic Image Segmentation 2017CVPR https://arxiv.org/abs/1706.05587 引入了Multi-grid 改进ASPP结构 移除CRFs后处理 2.关于获取多尺度范围信息的一些可选的架构 a.将图片缩放到不同的尺度，然后分别输入到网络进行正向推理，将多个尺度的输出进行融合得到最终的输出 b.按照分类网络bac
霹雳吧啦wz图像分类
最新发布
10-02
霹雳吧啦wz图像分类的代码如下： ```python from PIL import Image import torch from torch.utils.data import Dataset # 自定义数据集处理 class MyDataSet(Dataset): def __init__(self, images_path: list, images_class: list, transform=None): self.images_path = images_path self.images_class = images_class self.transform = transform def __len__(self): # 返回数据集的个数 return len(self.images_path) def __getitem__(self, item): img = Image.open(self.images_path[item]) # 返回路径下的PIL图像 # RGB为彩色图片，L为灰度图片 if img.mode != 'RGB': # 判断是否为 RGB 图像 raise ValueError("image: {} isn't RGB mode.".format(self.images_path[item])) label = self.images_class[item] if self.transform is not None: # transform 对 PIL 读取的图片处理 img = self.transform(img) return img, label @staticmethod def collate_fn(batch): # 官方实现的default_collate可以参考 # https://github.com/pytorch/pytorch/blob/67b7e751e6b5931a9f45274653f4f653a4e6cdf6/torch/utils/data/_utils/collate.py images, labels = tuple(zip(*batch)) images = torch.stack(images, dim=0) labels = torch.as_tensor(labels) return images, labels ```

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值