17天之深度学习task04CNN(卷积神经网络)

最新推荐文章于 2024-04-24 12:00:04 发布
最新推荐文章于 2024-04-24 12:00:04 发布
阅读量4.2k 收藏 1
点赞数
分类专栏： 深度学习 文章标签： ajax 深度学习 概率论
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/lyp3171790866/article/details/121478911
版权

卷积的含义

  • 局部不变性：尺度缩放、平移、旋转不改变语义信息；
  • 自然图像中的物体大多数都有局部不变性，但是前馈神经网络很难提取到局部不变特性，所以提出来卷积神经网络；

CNN基本原理

卷积神经网络的基本结构大致包括：卷积层、激活函数、池化层、全连接层、输出层等

其他卷积模型

转置卷积 （低维特征映射到高维特征）
空洞卷积
  • 为了增加输出单元的感受野，通过给“卷积核”插入空洞变相增加其大小
  • 扩张卷积与普通卷积的相同点在于，卷积核的大小是一样的，在神经网络中即参数数量不变，区别在于扩张卷积具有更大的感受野
    在这里插入图片描述
  • 第一幅图中卷积核是33，第二幅图采用插入空洞的方式使33的卷积核变为5*5，其中dilation rate（扩张率） = 1，第三幅图中dilation rate（扩张率）=2；
感受野分析

在这里插入图片描述

  • 上面是普通卷积操作

在这里插入图片描述

  • 上面是插入空洞的卷积操作

上采样与下采样

上采样（放大图像/图像插值）
  • 常用方法：双线性插值(bilinear)，反卷积(Transposed Convolution)，反池化(Unpooling)
  • 原理：图像放大几乎都是采用内插值方法，即在原有图像像素的基础上在像素点之间采用合适的插值算法插入新的元素。除此之外，插值算法还包括了传统插值，基于边缘图像的插值，还有基于区域的图像插值。
下采样（降采样/缩小图像）
  • 原理：池化
  • 分为最大池化和均值池化
  • 池化层不包含需要训练学习的参数，仅需指定池化操作的核大小、操作步幅以及池化类型
    在这里插入图片描述

卷积层作用

在这里插入图片描述

卷积的模式

在这里插入图片描述

激活函数

  • 在卷积神经网络中，最常用的是RELU，不太常用sigmod函数

在这里插入图片描述

优缺点

在这里插入图片描述

特征图

浅层卷积层：提取图像基本特征：比如纹理、方向
深层卷积层：提取的是图像高阶特征，出现了高层语义模式，如“车轮”、“人脸”等特征

全连接层

  • 对卷积层和池化层输出的特征图(二维)进行降维
  • 将学到的特征表示映射到样本标记空间的作用

输出层

在这里插入图片描述

卷积神经网络的训练

  • Step 1：用随机数初始化所有的卷积核和参数/权重
  • Step 2：将训练图片作为输入，执行前向步骤(卷积， ReLU，池化以及全连接层的前向传播)并计算每个类别的对应输出概率。
  • Step 3：计算输出层的总误差
  • Step 4：反向传播算法计算误差相对于所有权重的梯度，并用梯度下降法更新所有的卷积核和参数/权重的值，以使输出误差最小化

经典的卷积神经网络结构

在这里插入图片描述

1. LeNet-5

在这里插入图片描述
在这里插入图片描述

2. AlexNet

  • 首次成功应用ReLU作为CNN的激活函数
  • 使用Dropout丢弃部分神元，避免了过拟合
  • 使用重叠MaxPooling(让池化层的步长小于池化核的大小)， 一定程度上提升了特征的丰富性
  • 使用CUDA加速训练过程
  • 进行数据增强，原始图像大小为256×256的原始图像中重 复截取224×224大小的区域，大幅增加了数据量，大大减轻了过拟合，提升了模型的泛化能力
    在这里插入图片描述
    在这里插入图片描述

3. VGGNet

  • 比较常用的是VGG-16，结构规整，具有很强的拓展性
  • 相较于AlexNet，VGG-16网络模型中的卷积层均使用 333∗3 的 卷积核，且均为步长为1的same卷积，池化层均使用 222∗2 的 池化核，步长为2

在这里插入图片描述

4. Inception Net

在这里插入图片描述

5. ResNet

在这里插入图片描述
在这里插入图片描述

6. Densenet

  • DenseNet中，两个层之间都有直接的连接，因此该网络的直接连接个数为L(L+1)/2。
  • 对于每一层，使用前面所有层的特征映射作为输入，并且使用其自身的特征映射作为所有后续层的输入
    在这里插入图片描述

在这里插入图片描述

CNN应用

图像方面

  • 图像分类(物体识别)：整幅图像的分类或识别
  • 物体检测：检测图像中物体的位置进而识别物体
  • 图像分割：对图像中的特定物体按边缘进行分割
  • 图像回归：预测图像中物体组成部分的坐标

语音识别

自然语言处理

  • 比如情感分析
小小小泥鳅
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
卷积神经网络提取图像特征的操作是怎样完成的
shirley67269的博客
09-07 5049
3、基于MATLAB语言的网络训练与仿真建立并初始化网络% ================S1 = 24;在学习阶段应该用大量的样本进行训练学习，通过样本的大量学习对神经网络的各层网络的连接权值进行修正，使其对样本有正确的识别结果，这就像人记数字一样，网络中的神经元就像是人脑细胞，权值的改变就像是人脑细胞的相互作用的改变，神经网络在样本学习中就像人记数字一样，学习样本时的网络权值调整就相当于人记住各个数字的形象，网络权值就是网络记住的内容，网络学习阶段就像人由不认识数字到认识数字反复学习过程是一样的。
《动手学深度学习》Task04 ：卷积神经网络基础；leNet；卷积神经网络进阶
01-20
Task04 ：卷积神经网络基础；leNet；卷积神经网络进阶 1.卷积神经网络基础 下面是一些卷积神经网络的基本概念： 二维互相关运算 二维互相关（cross-correlation）运算的输入是一个二维输入数组和一个二维核（kernel...
【深度学习】5：CNN卷积神经网络原理
zzZ_CMing的博客
01-29 2万+
前言：先坦白的说，深度神经网络的学习在一开始对我造成的困扰还是很大的，我也是通过不断地看相关的视频资料、文献讲解尝试去理解记忆。毕竟这些内容大多都是不可查的，我们看到的都只是输入输出的东西，里面的内部运作以及工作原理，都需要沉心静思。这篇CNN卷积神经网络的原理介绍，也是自己通过收集来的资料阅读、理解、操练后，有了一定的见解后才拙笔，里面的内容我会尽量详尽，不清楚明白的地方，望大家慧眼指出。 –—
深度探索：机器学习中的空洞卷积（Atrous Convolution）算法原理及其应用
最新发布
qq_51320133的博客
04-24 1203
空洞卷积作为一种有效的卷积操作变体，凭借其扩大感受野、保持空间分辨率及参数效率等优点，已在图像识别、语义分割、目标检测等多个领域展现出强大的应用潜力。尽管存在计算复杂度增加、对小物体敏感性下降等问题，但通过合理设置空洞率、结合其他先进组件（如残差连接、注意力机制等），以及硬件加速技术的发展，空洞卷积有望在未来的机器学习研究与应用中发挥更大作用。随着深度学习技术的持续演进，我们期待看到更多基于空洞卷积的创新模型和应用，进一步推动计算机视觉乃至整个机器学习领域的进步。
卷积神经网络如何提取特征的？
weixin_44708254的博客
03-01 3315
用文氏图来理解卷积神经网络如何决定提取哪些特征： https://blog.csdn.net/kane7csdn/article/details/84890592 为什么卷积能够提取图像的特征？看完此文应该能够给你一个答案： https://blog.csdn.net/charleswangzi/article/details/82733016 浅析卷积神经网络为何能够进行特征提取： https://blog.csdn.net/weixin_42078618/article/details/838
学习笔记|卷积神经网络（Convolutional Neural Networks, CNN)——更有效率地提取特征
oXiLang的博客
03-09 5444
卷积神经网络的局部感受野和神经元参数共享思想
卷积神经网络提取特征原理
weixin_43873671的博客
03-01 1万+
众所周知，卷积神经网络是深度学习中非常有代表性的学习领域，而深度学习又是机器学习的主要分支，因此卷积神经网络就是用来让机器学习的过程途径，而机器要学的就是图像中的特征，“卷积”就是用来提取特征的。 在卷积神经网络面前，所有图像都是矩阵，矩阵中就是一个个的像素，这些像素组成了我们肉眼看到的图像。最经典的CNN便是Let-5网络 卷积过程有三个重要的概念需要知道：局部感知、参数共享、池化 局部感知： 即网络部分连通，每个神经元只与上一层的部分神经元相连，只感知局部，而不是整幅图像。 局部感知通过滑窗实现，局部
《动手学深度学习Pytorch版》Task5-卷积神经网络
01-20
卷积神经网络基础 需要理解卷积神经网络的基础概念，主要是卷积层和池化层、填充、步幅、输入通道和输出通道的含义。 几个经典的模型 LeNet AlexNet VGG NiN GoogLeNet 1×1卷积核作用 放缩通道数：通过控制卷积核的...
CNN 卷积神经网络
04-22
The first CNN appeared in the work of Fukushima in 1980 and was called Neocognitron. The basic architectural ideas behind the CNN (local receptive fields,shared weights, and spatial or temporal ...
TASK05-卷积神经网络基础-AlexNet-Lexnet
01-06
卷积神经网络基础-主要是一些概念性的内容，一做题目，几乎全部错误了，悲剧呀。 把题目和解析放下面。 1. 假如你用全连接层处理一张256×256256 \times 256256×256的彩色（RGB）图像，输出包含1000个神经元，在...
Deep_Learning_Task05: 卷积神经网络(CNN)/LeNet
01-06
卷积神经网络基础 二维互相关运算* 二维互相关（cross-correlation）运算的输入是一个二维输入数组和以和二维核数组，输出也是一个二维数组，其中核数组通常成为卷积和或滤波器（filter），卷积核的尺寸通常小于输入...
用文氏图来理解卷积神经网络如何决定提取哪些特征
Kenn7的博客
12-08 5506
在机器学习中，卷积神经网络(CNN)经常使用在图像分类的特征提取上， 那么CNN是如何决定提取哪些特征的呢，这里我想用文氏图(Venn)来理解一下。 文氏图(Venn diagram)也叫韦恩图，是用来表示集合的一种草图。 CNN提取特征（训练）和匹配特征（识别）的实际过程就是拿权值参数不同的fliters与输入的区域块相点乘。 现在有一个带标签的图片训练集，其中包含有Object...
深度学习-CNN提取图像特征
热门推荐
知识搬运工的博客
01-30 9万+
一、卷积层 1.卷积操作 2.特征提取—"X" or "O"？ 二、池化(Pooling) 三、Relu 层 四、全连接层(Fully connected layers) 五、反向传播算法BP 六、总结 作为机器学习的一个分支，深度学习同样需要计算机获得强大的学习能力，那么问题来了，我们究竟要计算机学习什么东西？答案当然是图像特征了。将一张图像看做是一个个像素值组成的...
【扫盲】机器学习图像处理中的深层/浅层、局部/全局特征
邹小驴
06-17 4625
浅层特征：浅层网络提取的特征和输入比较近，蕴含更多的像素点的信息，主要为一些细粒度的信息，比如颜色、纹理、边缘、棱角信息。原理：浅层网络感受野较小，感受野重叠区域也较小，所以保证网络捕获更多细节深层特征：深层网络提取的特征离输出较近，蕴含更抽象的信息，即语义信息，主要为一些粗粒度的信息。原理：感受野增加，感受野之间重叠区域增加，图像信息进行压缩，获取的是图像整体性的一些信息。基于内容的图像检索(Content-based Image Retrieval, CBIR)方法利用从图像提取的特征来进行检索。常用的
原来CNN是这样提取图像特征的
lu_linux的博客
10-14 1421
对于即将到来的人工智能时代，作为一个有理想有追求的程序员，不懂深度学习（Deep Learning）这个超热的领域，会不会感觉马上就out了？作为机器学习的一个分支，深度学习同样需要计算机获得强大的学习能力，那么问题来了，我们究竟要计算机学习什么东西？答案当然是图像特征了。将一张图像看做是一个个像素值组成的矩阵，那么对图像的分析就是对矩阵的数字进行分析，而图像的特征，就隐藏在这些数字规律中。 ...
关于深层卷积特征和浅层卷积特征的图像语义特征区别
qq_43449643的博客
03-28 507
不同网络层的卷积层所提取到的特征语义区别
深度学习原理总结
Enjolras_fuu的博客
11-28 4902
几个概念： Classifacation 是对输入图像做一个分类； Retrieval是对输入图像找到一个同款； Detection 是检测出一个物体框； Segmentation 是对输入图像做一个大量的分割。 把图像如人脸的特征做一步步的提取，最后提取出一个向量。卷积神经网络可以检测细胞病变，可以检测出汉字、车牌。 我们可以让计算机对一副图像进行描述，告诉我们这幅图像是做什
Deep Learning（深度学习）简要介绍
KieSnow的博客
03-26 2948
转载自https://blog.csdn.net/liulina603/article/details/44216677 二、背景 机器学习（Machine Learning）是一门专门研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能的学科。机器能否像人类一样能具有学习能力呢？ 机器学习虽然发展了几十年，...
SwinIR: Image Restoration Using Swin Transformer论文笔记
weixin_46872424的博客
12-14 1105
本文对SwinIR进行了分析，主要是SwinIR: Image Restoration Using Swin Transformer论文笔记
深度学习卷积神经网络
07-27
深度学习中的卷积神经网络（CNN）是一种重要的神经网络结构，主要用于图像处理、视频处理、音频处理和自然语言处理等领域。卷积神经网络的概念早在上世纪80年代就被提出，但直到21世纪以后，随着深度学习理论的完善和硬件性能的提升，卷积神经网络才真正崛起。如今，卷积神经网络在深度学习领域扮演着举足轻重的角色，许多重要应用如AlphaGo和手机上的人脸识别都采用了卷积神经网络。\[1\] 在理解卷积神经网络之前，我们需要先了解神经网络的基础知识。卷积神经网络是一种专门用来处理具有类似网格结构的数据的神经网络，例如时间序列数据和图像数据。卷积神经网络中的“卷积”指的是一种特殊的线性运算，它在网络的一层中使用卷积运算来替代一般的矩阵乘法运算。这种运算在许多应用领域都表现出色。\[3\] 总结来说，深度学习中的卷积神经网络是一种用于处理具有网格结构数据的神经网络，通过卷积运算来替代矩阵乘法运算，以实现对图像、视频、音频和自然语言等数据的高效处理。\[1\]\[3\] #### 引用[.reference_title] - *1* *2* [深度学习——卷积神经网络（CNN）简介](https://blog.csdn.net/johnny_love_1968/article/details/117636049)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^insertT0,239^v3^insert_chatgpt"}} ] [.reference_item] - *3* [深度学习—卷积神经网络（Convolutional Neural Networks）](https://blog.csdn.net/qq_28505705/article/details/102944765)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^insertT0,239^v3^insert_chatgpt"}} ] [.reference_item] [ .reference_list ]

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值