水很深的深度学习-卷积神经网络篇

最新推荐文章于 2024-05-31 16:14:40 发布
最新推荐文章于 2024-05-31 16:14:40 发布
阅读量2.3k 收藏 2
点赞数 1
文章标签： 深度学习 概率论 机器学习 cnn python
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_64013271/article/details/121525465
版权

什么是卷积

 先将一个函数反转，然后滑动叠加

最容易理解的对卷积(convolution)的解释_bitcarmanlee的博客-CSDN博客_卷积

这篇文章可以深入理解下卷积

卷积操作

步长：卷积核移动的步长

 

 其他卷积

转置卷积/反卷积

空洞卷积

空洞卷积可以增大感受野,但是可以不改变图像输出特征图的尺寸

我想说下自己白痴理解

扩张率这个东西，对比上面3个图，b相比于a，想像下左上角第一个是一个棋子，走到中间位置需要走两步，并不是一步可以走到，c图就是走了3步，扩张率就是走的步数，不知道这样说是否合适

上面三个图同样是3*3卷积，却发挥了5*5 7*7卷积的同样作用 

吃透空洞卷积(Dilated Convolutions)_程序客栈（@qq704783475）-CSDN博客_膨胀卷积和空洞卷积

卷积神经网络

卷积神经网络包含卷积层、激活函数、池化层、全连接层、输出层

特征图

浅层卷积层：提取图像基本特征，如边缘、方向和纹理

深层卷积层：提取图像高阶特征，出现了高层语义模式

特征映射

一幅图在经过卷积操作后得到结果为feature

池化层：使用某位置相邻输出的总体特征作为该位置的输出，常用的池化操作优最大池化和均值池化

池化层作用

减少参数，防止过拟合

增强网络对输入图片的小变形、扭曲、平移的鲁棒性

帮助获得不因尺寸改变的等效图片表征

全连接层：

对卷积层和池化层输出的特征图进行降维

输出层：分类问题sofxmax函数

回归问题：线性函数

经典卷积神经网络

VGG、Lenet

resnet、Alexnet、Inception NET

LeNet-5（未完全理解），后续继续更新自己理解

输入层：输入图像尺寸归一化为32*32

C1层-卷积层：

S2池化层

C3卷积层

S4池化层

C5卷积层

F6全连接层

输出层全连接层

vggNET(参考pytorch深度学习电子书实现)

https://blog.csdn.net/weixin_44791964/article/details/102585038?ops_request_misc=%257B%2522request%255Fid%2522%253A%2522163799975316780255242987%2522%252C%2522scm%2522%253A%252220140713.130102334.pc%255Fall.%2522%257D&request_id=163799975316780255242987&biz_id=0&utm_medium=distribute.pc_search_result.none-task-blog-2~all~first_rank_ecpm_v1~rank_v31_ecpm-1-102585038.pc_search_result_cache&utm_term=vgg16&spm=1018.2226.3001.4187icon-default.png?t=LA92https://blog.csdn.net/weixin_44791964/article/details/102585038?ops_request_misc=%257B%2522request%255Fid%2522%253A%2522163799975316780255242987%2522%252C%2522scm%2522%253A%252220140713.130102334.pc%255Fall.%2522%257D&request_id=163799975316780255242987&biz_id=0&utm_medium=distribute.pc_search_result.none-task-blog-2~all~first_rank_ecpm_v1~rank_v31_ecpm-1-102585038.pc_search_result_cache&utm_term=vgg16&spm=1018.2226.3001.4187 

#了解VGG并实现
class VGG(nn.Module):
    def __init__(self):
        super(VGG,self).__init__()
        self.features = nn.Sequential(
        nn.Conv2d(3,64,kernel_size=3,padding=1)
        nn.ReLU(True)
        
        nn.Conv2d(64,64,kernel_size=3,padding=1)
        nn.ReLU(True)
        nn.MaxPool2d(kernel_size=2,stride=2)
        
        nn.Conv2d(64,128,kernel_size=3,padding=1)
        nn.ReLU(True)
        
        nn.Conv2d(128,128,kernel_size=3,padding=1)
        nn.ReLU(True)
        nn.MaxPool2d(kernel_size=3,stride=2)
            
        nn.Conv2d(128,256,kernel_size=3,padding=1)
        nn.ReLU(True)
        
        nn.Conv2d(256,256,kernel_size=3,padding=1)
        nn.ReLU(True)
        nn.MaxPool2d(kernel_size=2,stride=2)
        
        nn.Conv2d(256,256,kernel_size=3,padding=1)
        nn.ReLU(True)
        nn.MaxPool2d(kernel_size=2,stride=2)
            
        nn.Conv2d(128,512,kernel_size=3,padding=1)
        nn.ReLU(True)
        
        nn.Conv2d(512,512,kernel_size=3,padding=1)
        nn.ReLU(True)
        
        nn.Conv2d(512,512,kernel_size=3,padding=1)
        nn.ReLU(True)
        nn.MaxPool2d(kernel_size=2,stride=2)
        nn.Conv2d(512,512,kernel_size=3,padding=1)
        nn.ReLU(True)
        
        nn.Conv2d(512,512,kernel_size=3,padding=1)
        nn.ReLU(True)
        
        nn.Conv2d(512,512,kernel_size=3,padding=1)
        nn.ReLU(True)
        nn.MaxPool2d(kernel_size=2,stride=2)
            
    self.classifier = nn.Sequnential(
        nn.Linear(512*7*7,4096),
        nn.ReLU(True),
        nn.Dropout(),
        nn.Linear(4096,4096),
        nn.ReLU(True),
        nn.Dropout(),
        nn.Linear(4096,num_classes),)
    self._initialize_weight()
            
    def forwars(self,x):
            x= self.features(x)
            x= x.view(x.size(0),-1)
            x= self.classifier(x)

innception Module

Resnet

resnet核心是残差块残差块可以视作标准神经网路添加了跳跃连接

目前还在继续学习

参考

https://github.com/datawhalechina/unusual-deep-learning/blob/main/docs/5.CNN.md

data小孙
关注
  • 1
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
Pytorch实现基于深度学习卷积神经网络的面部表情识别项目源码+面部表情数据集.zip
03-28
Pytorch实现基于深度学习卷积神经网络的面部表情识别项目源码+面部表情数据集.zip已获导师指导并通过的高分毕业设计项目，98分评审分。也可作为课程设计和期末大作业。动手完成这个项目之后，就可以学习到：1. 深度学习中CNN（卷积神经网络）的使用，为之后学习相关神经网络模型做了很好的铺垫。2. 学会使用深度学习框架之一Pytorch的使用。3. 多分类问题在实际中的应用，是二分类的扩展。4. 从数据处理，可视化，到模型搭建的过程，是一种经验和技巧的积累，达到“举一反三”的效果。 Pytorch实现基于深度学习卷积神经网络的面部表情识别项目源码+面部表情数据集.zip已获导师指导并通过的高分毕业设计项目，98分评审分。也可作为课程设计和期末大作业。动手完成这个项目之后，就可以学习到：1. 深度学习中CNN（卷积神经网络）的使用，为之后学习相关神经网络模型做了很好的铺垫。2. 学会使用深度学习框架之一Pytorch的使用。3. 多分类问题在实际中的应用，是二分类的扩展。4. 从数据处理，可视化，到模型搭建的过程，是一种经验和技巧的积累，达到“举一反三”的效果。 Pytorch实现基于深
神经网络与深度学习课程练习代码，含线性回归模型、前馈神经网络、卷积神经网络、循环神经网络、注意力机制、高斯混合模型、深度强化学习
03-06
1. 热身练习 warmup numpy是Python中对于矩阵处理很实用的工具包，本小节作业主要是熟悉基本的numpy操作。 2. 线性回归模型 Linear Regression 3. 线性模型 支持向量机 support vector machine Softmax回归 Softmax Regression 4. 前馈神经网络 Simple Neural Network 利用numpy实现全连接神经网络 5. 卷积神经网络 Convolutional Neural Network (CNN) 利用卷积神经网络，处理MNIST 数据集分类问题。 6. 循环神经网络 Recurrent Neural Network (RNN) 基于循环神经网络的唐诗生成问题 7. 注意力机制 Attention Mechanism 使用sequence to sequence 模型将一个字符串序列逆置。 使用attentive sequence to sequence 模型将一个字符串序列逆置。 11. 高斯混合模型 Gaussian Mixture
关于深层卷积特征和浅层卷积特征的图像语义特征区别
qq_43449643的博客
03-28 411
不同网络层的卷积层所提取到的特征语义区别
深度学习之卷积神经网络.pptx
12-04
深度学习是机器学习领域中一个新的研究方向，它被引入机器学习使其更接近于最初的目标——人工智能。深度学习在搜索技术，数据挖掘，机器学习，机器翻译，自然语言处理，多媒体学习，语音，推荐和个性化技术，以及其他相关领域都取得了很多成果。深度学习使机器模仿视听和思考等人类的活动，解决了很多复杂的模式识别难题，使得人工智能相关技术取得了很大进步。卷积神经网络是一类包含卷积计算且具有深度结构的前馈神经网络，是深度学习代表算法之一。ppt是概括了传统的经典神经网络和卷积神经网络，希望对有ppt讲解需求的人有帮助。
Python基于TensorFlow深度学习卷积神经网络自动识别网站验证码设计毕业源码案例设计.zip
05-10
深度学习（DL，Deep Learning）是机器学习（ML，Machine Learning）领域中一个新的研究方向，它被引入机器学习使其更接近于最初的目标——人工智能（AI，Artificial Intelligence）。 [1] 深度学习是学习样本数据的内在规律和表示层次，这些学习过程中获得的信息对诸如文字、图像和声音等数据的解释有很大的帮助。它的最终目标是让机器能够像人一样具有分析学习能力，能够识别文字、图像和声音等数据。 深度学习是一个复杂的机器学习算法，在语音和图像识别方面取得的效果，远远超过先前相关技术。 [1] 深度学习在搜索技术、数据挖掘、机器学习、机器翻译、自然语言处理、多媒体学习、语音、推荐和个性化技术，以及其他相关领域都取得了很多成果。深度学习使机器模仿视听和思考等人类的活动，解决了很多复杂的模式识别难题，使得人工智能相关技术取得了很大进步。 [1] 深度学习是一类模式分析方法的统称，就具体研究内容而言，主要涉及三类方法： [2] （1）基于卷积运算的神经网络系统，即卷积神经网络（CNN）。 [2] （2）基于多层神经元的自编码神经网络，包括自编码（Auto encoder）以及近年来受到广泛关注的稀疏编码两类（Sparse Coding）。 [2] （3）以多层自编码神经网络的方式进行预训练，进而结合鉴别信息进一步优化神经网络权值的深度置信网络（DBN）。 [2] 通过多层处理，逐渐将初始的“低层”特征表示转化为“高层”特征表示后，用“简单模型”即可完成复杂的分类等学习任务。由此可将深度学习理解为进行“特征学习”（feature learning）或“表示学习”（representation learning）。 [3] 以往在机器学习用于现实任务时，描述样本的特征通常需由人类专家来设计，这成为“特征工程”（feature engineering）。众所周知，特征的好坏对泛化性能有至关重要的影响，人类专家设计出好特征也并非易事；特征学习（表征学习）则通过机器学习技术自身来产生好特征，这使机器学习向“全自动数据分析”又前进了一步。 [3] 近年来，研究人员也逐渐将这几类方法结合起来，如对原本是以有监督学习为基础的卷积神经网络结合自编码神经网络进行无监督的预训练，进而利用鉴别信息微调网络参数形成的卷积深度置信网络。与传统的学习方法相比，深度学习方法预设了更多的模型参数，因此模型训练难度更大，根据统计学习的一般规律知道，模型参数越多，需要参与训练的数据量也越大。 [2] 20世纪八九十年代由于计算机计算能力有限和相关技术的限制，可用于分析的数据量太小，深度学习在模式分析中并没有表现出优异的识别性能。自从2006年，Hinton等提出快速计算受限玻耳兹曼机（RBM）网络权值及偏差的CD-K算法以后，RBM就成了增加神经网络深度的有力工具，导致后面使用广泛的DBN（由Hin
基于HLS的高效深度学习卷积神经网络FPGA实现方法项目全部数据.zip
11-30
基于HLS的高效深度学习卷积神经网络FPGA实现方法项目全部数据.zip本文通过对现有相关研究的分析、总结和改进，给出了一系列在软件层面上如何构建和训练小巧高效且利于硬件加速的网络方法，在FPGA实现时如何减少资源、降低功耗及提高速度的方法，以及在HLS中如何增加设计灵活性、可移植性和可扩展性的方法，具有很好的实用价值。并结合这些方法构建和训练了一个网络，命名为EfficientNet，使用HLS在FPGA上对其进行了推断加速。通过与其他网络和平台的对比，验证了这些方法的有效性。本文的主要工作和贡献如下： 设计实现了一种轻量化的深度学习网络EfficientNet。针对传统网络参数量及计算量大且不利于硬件加速的问题，本文在保证精度的前提下，分析了以深度可分离卷积代替标准卷积、以步进代替池化、以平均池化代替全连接的方法，提出了尺寸不变通道增减交替的方法，并对这些方法进行了集成，从而构建了一个低复杂度的DCNN网络，并命名为EfficientNet。实验结果表明EfficientNet在公开的Flower_photos数据集上的分类精度为89.3%，相比Inception-v3，在参数量
卷积神经网络——卷积神经网络基础（9）
weixin_42729843的博客
09-27 248
机器视觉 机器视觉（Computer Vision）是深度学习应用的主要方向之一。一般的CV问题包括以下三类： Image Classification Object detection Neural Style Transfer 1.边缘检测 对于CV问题，我们在之前的笔记中介绍过，神经网络由浅层到深层，分别可以检测出图片的边缘特征 、局部特征（例如眼睛、鼻子等...
深度学习 — 卷积神经网络
pentiumCM的博客
12-10 201
文章目录深度学习笔记9 —— 卷积神经网络一、CNN网络结构1. 卷积层参考资料 深度学习笔记9 —— 卷积神经网络 一、CNN网络结构 1. 卷积层 概念 感受野： 输出的feature map 上的一个节点，对应于输入图像上尺寸的大小。 特点 卷积层中低层的feature map,感受野比较小，高层的感受野比较大。 浅层卷积层对边缘更感兴趣，可以获得一些细节信息 深层卷积层对 由浅层卷积层构成的复杂特征更感兴趣，可以获得一些语义信息 参考资料 https://blog.csdn
(4-1)卷积神经网络 | 卷积神经网络基础
Nibaby
05-20 1905
计算机视觉 计算机视觉（Computer Vision）涉及许多不同类别的问题，如图片分类、目标检测、图片风格迁移等等。 对于小尺寸的图片问题，也许我们用深度神经网络的结构可以较为简单的解决一定的问题。但是当应用在大尺寸的图片上，输入规模将变得十分庞大，难以获得足够的数据来防止神经网络发生过拟合和竞争需求，要处理包含几十亿参数的神经网络，这样巨大的内存需求让人不太能接受。 但对于计算机视觉应用来说，我们肯定不想它只处理小图片，而是希望它同时也能处理大图。因此，我们需要进行卷积计算，它是卷积神经网络中非
深度学习03-卷积神经网络(CNN)
热门推荐
liaomin416100569的专栏
05-12 3万+
CNN，即卷积神经网络（Convolutional Neural Network），是一种常用于图像和视频处理的深度学习模型。与传统神经网络相比，CNN 有着更好的处理图像和序列数据的能力，因为它能够自动学习图像中的特征，并提取出最有用的信息。CNN 的一个核心特点是卷积操作，它可以在图像上进行滑动窗口的计算，通过滤波器（又称卷积核）和池化层（Max Pooling）来提取出图像的特征。卷积操作可以有效地减少权重数量，降低计算量，同时也能够保留图像的空间结构信息。
基于深度卷积神经网络和聚类的左右轨道线检测.pdf
09-25
深度卷积神经网络（CNN）是机器学习领域中的一种常用技术，具有强大的图像特征提取能力。CNN 由一个或多个卷积层和池化层组成，卷积层用于提取图像特征，池化层用于降低图像维度，以提高模型的泛化能力。CNN 广泛...
深度学习原理-----卷积神经网络
didiaopao的博客
09-01 1万+
利用大量的图片来讲解卷积神经网络的原理
深度学习---卷积神经网络（CNN）
weixin_48678602的博客
10-12 6503
文章目录1. 什么是深度学习？2. 深度学习框架2.1 卷积神经网络（CNN）2.1.1 引子 ：边界检测2.1.2 CNN的基本概念2.1.3 CNN的结构组成2.1.4 卷积神经网络 VS. 传统神经网络 1. 什么是深度学习？ 深度学习(DL, Deep Learning)是机器学习(ML, Machine Learning)领域中一个新的研究方向，它被引入机器学习使其更接近于最初的目标–人工智能(AI, Artificial Intelligence)。 深度学习是学习样本数据的内在规律和表示层次，
基于YOLOv7的密集场景行人检测识别分析系统
Together_CZ的博客
08-07 1049
基于YOLOv7的密集场景行人检测识别分析系统
深度学习-卷积神经网络（CNN）
love1005lin的博客
11-19 8211
CNN基本原理 经典CNN 卷积神经网络基本原理 卷积神经网络的基本结构大致包括：卷积层、激活函数、池化层、全连接层、输出层等。 卷积层 二维卷积运算：给定二维的图像I作为输入，二维卷积核K，卷积运算可表示为 S(i,j)=(I∗K)(i,j)=∑m∑nI(i−m,j−n)K(m,n)S(i, j)=(I * K)(i, j)=\sum_{m} \sum_{n} I(i-m, j-n) K(m, n)S(i,j)=(I∗K)(i,j)=∑m​∑n​I(i−m,j−n)K(m,n)，卷积核需要进行上下翻转.
[数据集][目标检测]伤口检测数据集VOC+YOLO格式2760张1类别
FL1623863129的博客
05-27 382
数据集格式：Pascal VOC格式+YOLO格式(不包含分割路径的txt文件，仅仅包含jpg图片以及对应的VOC格式xml文件和yolo格式txt文件)特别声明：本数据集不对训练的模型或者权重文件精度作任何保证，数据集只提供准确且合理标注。重要说明：大部分是脚本伤口，也有一小部分是其他部分伤口。图片数量(jpg文件个数)：2760。标注数量(xml文件个数)：2760。标注数量(txt文件个数)：2760。使用标注工具：labelImg。标注规则：对类别进行画矩形框。
遥感图像的深度学习的任务类型
最新发布
weixin_42605076的博客
05-31 303
遥感图像的深度学习任务涉及广泛的应用领域和技术方法，通过使用卷积神经网络（CNN）、生成对抗网络（GAN）等先进的深度学习模型，能够有效提升遥感数据的处理和分析能力，支持各类环境监测、资源管理、灾害应对等实际需求。
RK3568笔记二十八：CRNN车牌识别部署
05-31 472
1、训练平台：Autodl2、运行板子：ATK-DLRK3568。
VGG-Net卷积神经网络和cnn卷积神经网络
04-12
VGG-Net是一种经典的卷积神经网络模型，由牛津大学的研究团队开发。它在2014年的ImageNet图像分类挑战中取得了很好的成绩。VGG-Net的主要特点是使用了非常小的卷积核（3x3）和深层网络结构。 VGG-Net的网络结构非常简单，它由多个卷积层和池化层组成，最后接上全连接层进行分类。其中，卷积层使用了多个3x3的卷积核，通过堆叠多个卷积层来增加网络的深度。池化层则用于减小特征图的尺寸，同时保留主要特征。VGG-Net的网络结构非常深，有16层或19层，因此也被称为VGG16或VGG19。 相比于其他卷积神经网络模型，VGG-Net具有以下特点： 1. 网络结构简单明了，只使用了3x3的卷积核和池化层。 2. 拥有较深的网络结构，可以提取更复杂的特征。 3. 在ImageNet图像分类挑战中取得了较好的性能。 CNN（卷积神经网络）是一种深度学习模型，广泛应用于图像识别、语音识别等领域。CNN的核心思想是通过卷积层、池化层和全连接层来提取和学习图像的特征。 CNN的卷积层通过卷积操作对输入图像进行特征提取，可以捕捉到图像的局部信息。池化层则用于减小特征图的尺寸，同时保留主要特征。最后，全连接层将提取到的特征映射到不同的类别上。 CNN的优势在于： 1. 具有局部感知性，能够有效地处理图像等二维数据。 2. 参数共享，减少了模型的参数量，降低了过拟合的风险。 3. 可以通过堆叠多个卷积层和池化层来构建深层网络，提取更高级的特征。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值