卷积神经网络原理

最新推荐文章于 2024-07-22 13:42:36 发布
最新推荐文章于 2024-07-22 13:42:36 发布
阅读量1.3k 收藏 4
点赞数 2
分类专栏： 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_39965184/article/details/86832433
版权

从神经网络到卷积神经网络（CNN）

我们知道神经网络的结构是这样的：
在这里插入图片描述那卷积神经网络跟它是什么关系呢？
其实卷积神经网络依旧是层级网络，只是层的功能和形式做了变化，可以说是传统神经网络的一个改进。比如下图中就多了许多传统神经网络没有的层次。
在这里插入图片描述

卷积神经网络的层级结构

     • 数据输入层/ Input layer

• 卷积计算层/ CONV layer
　　• ReLU激励层 / ReLU layer
　　• 池化层 / Pooling layer
　　• 全连接层 / FC layer

1.数据输入层

该层要做的处理主要是对原始图像数据进行预处理，其中包括：
　　• 去均值：把输入数据各个维度都中心化为0，如下图所示，其目的就是把样本的中心拉回到坐标系原点上。
　　• 归一化：幅度归一化到同样的范围，如下所示，即减少各维度数据取值范围的差异而带来的干扰，比如，我们有两个维度的特征A和B，A范围是0到10，而B范围是0到10000，如果直接使用这两个特征是有问题的，好的做法就是归一化，即A和B的数据都变为0到1的范围。
　　• PCA/白化：用PCA降维；白化是对数据各个特征轴上的幅度归一化

2.卷积计算层

这一层就是卷积神经网络最重要的一个层次，也是“卷积神经网络”的名字来源。
在这个卷积层，有两个关键操作：
　　• 局部关联。每个神经元看做一个滤波器(filter)
　　• 窗口(receptive field)滑动， filter对局部数据计算

先介绍卷积层遇到的几个名词：
　　• 深度/depth（解释见下图）
　　• 步长/stride （窗口一次滑动的长度）
　　• 填充值/zero-padding
　　在这里插入图片描述
在这里插入图片描述卷积的计算（注意，下面蓝色矩阵周围有一圈灰色的框，那些就是上面所说到的填充值）

在这里插入图片描述

卷积之后图像大小

在这里插入图片描述

参数共享机制（一个卷积核从上卷到下）

• 在卷积层中每个神经元连接数据窗的权重是固定的，每个神经元只关注一个特性。神经元就是图像处理中的滤波器，比如边缘检测专用的Sobel滤波器，即卷积层的每个滤波器都会有自己所关注一个图像特征，比如垂直边缘，水平边缘，颜色，纹理等等，这些所有神经元加起来就好比就是整张图像的特征提取器集合。
　　• 需要估算的权重个数减少: AlexNet 1亿 => 3.5w
　　• 一组固定的权重和不同窗口内数据做内积: 卷积

3.激励层

激活函数的作用：https://blog.csdn.net/m0_37192554/article/details/83587579
把卷积层输出结果做非线性映射。
在这里插入图片描述CNN采用的激励函数一般为ReLU(The Rectified Linear Unit/修正线性单元)，它的特点是收敛快，求梯度简单，但较脆弱，图像如下。
在这里插入图片描述激励层的实践经验：
　　①不要用sigmoid！不要用sigmoid！不要用sigmoid！
　　② 首先试RELU，因为快，但要小心点
　　③ 如果2失效，请用Leaky ReLU或者Maxout
　　④ 某些情况下tanh倒是有不错的结果，但是很少

4.池化层

池化层夹在连续的卷积层中间， 用于压缩数据和参数的量，减小过拟合。
简而言之，如果输入是图像的话，那么池化层的最主要作用就是压缩图像。

这里再展开叙述池化层的具体作用。

  1. 特征不变性，也就是我们在图像处理中经常提到的特征的尺度不变性，池化操作就是图像的resize，平时一张狗的图像被缩小了一倍我们还能认出这是一张狗的照片，这说明这张图像中仍保留着狗最重要的特征，我们一看就能判断图像中画的是一只狗，图像压缩时去掉的信息只是一些无关紧要的信息，而留下的信息则是具有尺度不变性的特征，是最能表达图像的特征。

  2. 特征降维，我们知道一幅图像含有的信息是很大的，特征也很多，但是有些信息对于我们做图像任务时没有太多用途或者有重复，我们可以把这类冗余信息去除，把最重要的特征抽取出来，这也是池化操作的一大作用。

  3. 在一定程度上防止过拟合，更方便优化。
    在这里插入图片描述池化层用的方法有Max pooling 和 average pooling，而实际用的较多的是Max pooling。

这里就说一下Max pooling，其实思想非常简单。
在这里插入图片描述对于每个22的窗口选出最大的数作为输出矩阵的相应元素的值，比如输入矩阵第一个22窗口中最大的数是6，那么输出矩阵的第一个元素就是6，如此类推。
一般CNN结构依次为
　　1. INPUT
　　2. [[CONV -> RELU]*N -> POOL?]*M
　　3. [FC -> RELU]*K
　　4. FC

卷积神经网络之训练算法
　　1. 同一般机器学习算法，先定义Loss function，衡量和实际结果之间差距。
　　2. 找到最小化损失函数的W和b， CNN中用的算法是SGD（随机梯度下降）
卷积神经网络之优缺点
优点
　　• 共享卷积核，对高维数据处理无压力
　　• 无需手动选取特征，训练好权重，即得特征分类效果好
缺点
　　• 需要调参，需要大样本量，训练最好要GPU
　　• 物理含义不明确（也就说，我们并不知道没个卷积层到底提取到的是什么特征，而且神经网络本身就是一种难以解释的“黑箱模型”）

在这里插入图片描述

啊！漂泊的鱼
关注
专栏目录
大话卷积神经网络（CNN）
qq_33287871的博客
10-04 4775
这里的神经网络，也指人工神经网络（Artificial Neural Networks，简称ANNs），是一种模仿生物神经网络行为特征的算法数学模型，由神经元、节点与节点之间的连接（突触）所构成，如下图： 每个神经网络单元抽象出来的数学模型如下，也叫感知器，它接收多个输入（x1，x2，x3…），产生一个输出，这就好比是神经末梢感受各种外部环境的变化（外部刺激），然后产生电信号，以便于转导到神经细胞（又叫神经元）。 单个的感知器就构成了一个简单的模型，但在现实世界中，实际的决策模型则要复杂得多，往往是由.
卷积神经网络原理解析
人工智能AI技术
08-16 5681
自动驾驶、智能医疗保健和自助零售这些领域直到最近还被认为是不可能实现的，而计算机视觉已经帮助我们达到了这些事情。如今，拥有自动驾驶汽车或自动杂货店的梦想听起来不再那么遥不可及了。事实上，我们每天都在使用计算机视觉——当我们用面部解锁手机或在社交媒体上发照片前使用自动修图。卷积神经网络可能是这一巨大成功背后最关键的构建模块。这一次，我们将加深理解神经网络如何工作于CNNs。出于建议，这篇文章将包括相当复杂的数学方程，如果你不习惯线性代数和微分，请不要气馁。
卷积神经网络（CNN）
最新发布
Gaga246的博客
07-22 1136
卷积神经网络是一种多层神经网络，擅长处理图像特别是大图像的相关机器学习问题。 最典型的卷积网络，由卷积层、池化层、全连接层组成。其中卷积层与池化层配合，组成多个卷积组，逐层提取特征，最终通过若干个全连接层完成分类。 卷积层完成的操作，可以认为是受局部感受野概念的启发，而池化层，主要是为了降低数据维度。 综合起来说，CNN通过卷积来模拟特征区分，并且通过卷积的权值共享及池化，来降低网络参数的数量级，最后通过传统神经网络完成分类等任务。
卷积神经网络原理详解
weixin_52668444的博客
03-06 4699
文章结构1.如何理解神经网络2.前馈网络3.反向传播算法4. 全连接网络5.卷积网络5.1卷积网络的基本概念5.2 卷积网络与全连接网络的关系5.3 怎么理解卷积5.4 卷积网络的前向传播5.5 卷积网络的反向传播 1.如何理解神经网络 神经网络通常是由三个部分组成，输入层，隐藏层以及输出层。 2.前馈网络 3.反向传播算法 4. 全连接网络 5.卷积网络 从前面对全连接网络的描述中，可以发现全连接网络试图去描述整个有向图中所有元素之间的关系，因为每一个变量都会有自己的参数，这可能会导致参数量剧。在机器学习
卷积神经网络(CNN)原理详解
热门推荐
IT之一小佬的博客
06-17 2万+
卷积神经网络(CNN)原理详解 1. 卷积神经网络的组成 定义 卷积神经网络由一个或多个卷积层、池化层以及全连接层等组成。与其他深度学习结构相比，卷积神经网络在图像等方面能够给出更好的结果。这一模型也可以使用反向传播算法进行训练。相比较其他浅层或深度神经网络，卷积神经网络需要考量的参数更少，使之成为一种颇具吸引力的深度学习结构。 我们来看一下卷积网络的整体结构什么样子。 其中包含了几个主要结构 卷积层（Convolutions） 池化层（Subsampling） 全连接层（Full c
卷积神经网络(CNN)--原理详细解读（通俗易懂）
m0_71212744的博客
07-12 4921
在人工智能的浪潮中，卷积神经网络（CNN）以其卓越的性能在图像识别、视频处理等领域大放异彩。它通过模拟人脑视觉系统，利用卷积层、池化层等结构，从数据中自动提取并学习特征，实现高效且准确的分类与识别。本文旨在以简洁明了的方式，揭开CNN的神秘面纱，解析其工作原理，让小伙伴们快速了解这一前沿技术如何推动图像处理的进步，并激发对深度学习领域的兴趣与探索。定义。
卷积神经网络基本原理
guet_12_2021的博客
01-02 1500
什么是全连接神经网络？ 这张图片在视网膜形成图像后被转换成神经冲动，然后经过视觉神经的传导信号到达大脑，经过大脑皮层对信号的处理我们可以得出判断，这是一只猫，当然有些人可能再根据它的颜色和花纹继而判断出这是一只美短。 再抽象一下刚才的传递路径，信息由视网膜接收，信号传递到视觉神经，最后再传到大脑皮层，当然这其中的每一层都是由很多神经元组成，前一层的神经元连接着下一层的神经元，这就组成了一个简单的神经网络模型，在前面的这一列是输入层神经元，中间的一列是隐藏层，最后的一层是输出层。这...
卷积神经网络原理与视觉实践
08-31
在本资料《卷积神经网络原理与视觉实践》中，将深入探讨这些概念及其实际应用。 卷积层是CNN的核心，它通过一组可学习的滤波器（或称卷积核）对输入图像进行扫描，生成特征映射。每个滤波器都会在输入数据上滑动，...
卷积神经网络原理.pdf
06-11
卷积神经网络（CNN）是深度学习中的一种重要模型，主要应用于图像识别、视频分析、语音识别等任务。CNN通过模拟人类视觉神经网络的结构，自动并有效地从图像中提取特征。卷积神经网络的核心组成部分包括神经元、层、...
卷积神经网络的工作原理
03-14
详细解读了卷积神经网络是如何工作的，从CNN卷积层、激活层、池化层到全链接层，及多层CNN作用进行了通熟易懂的讲解
卷积神经网络结构原理详细介绍
12-20
详细介绍卷积神经网络的结构原理，并且根据一个详细的例子来说明CNN网络如何应用
【深度学习】卷积神经网络原理 深度学习原理.pdf
04-13
卷积神经网络原理 深度学习中的卷积神经网络（Convolutional Neural Network，CNN）是一种前馈神经网络，它的神经元可以响应一部分覆盖范围内的周围单元，长期制霸计算机视觉领域。其核心主要是“卷积与池化”。 ...
一维卷积神经网络原理,卷积神经网络原理简述
super339的博客
08-12 8686
卷积神经网络（ConvolutionalNeuralNetwork,CNN）是一种前馈神经网络，它的人工神经元可以响应一部分覆盖范围内的周围单元，对于大型图像处理有出色表现。[1] 它包括卷积层(alternatingconvolutionallayer)和池层(poolinglayer)。卷积神经网络是近年发展起来，并引起广泛重视的一种高效识别方法。...
卷积神经网络原理简介
qq_43660987的博客
06-13 1万+
1，概念简介 卷积神经网络（Convolutional Neural Networks, CNN）是一类包含卷积计算且具有深度结构的前馈神经网络（Feedforward Neural Networks），是深度学习（deep learning）的代表算法之一。 卷积神经网络具有表征学习（representation learning）能力，能够按其阶层结构对输入信息进行平移不变分类（shift-i...
卷积神经网络原理与结构详解
深度学习与卷积神经网络 深度学习是机器学习的一个分支，它是指使用多层人工神经网络来学习和表示复杂数据的方法。卷积神经网络（Convolutional Neural Networks，CNN）是深度学习中的一种常用模型，广泛应用于图像...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值