Convolutional Neural network(卷积神经网络)

已于 2023-05-23 14:07:29 修改
阅读量2.7k 收藏 16
点赞数 3
分类专栏： 李宏毅机器学习 文章标签： cnn 深度学习 计算机视觉
于 2023-05-15 18:34:29 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_51426525/article/details/130690161
版权

目录

Why CNN for Image？

The whole CNN structure

 Convolution（卷积）

Max Pooling

Flatten

 CNN in Keras

 What does CNN learn？

what does filter do

what does neuron do

 what about output

 Deep Dream

Application

Playing Go

Speech

 Text

Why CNN for Image？

当我们直接用一般的fully connected的feedforward network来做图像处理的时候，往往会需要太多的参数；用CNN来做，就可以简化neural network的架构，我们根据自己的知识和对图像处理的理解，一开始就把某些实际上用不到的参数给过滤掉。

  • 对一个神经元来说，想要侦测有没有某一个pattern出现，它其实并不需要看整张image，只需要看这张image的一小部分，就可以决定这件事情了。

  • 相同的pattern在不同区域时，神经元就可以使用相同的参数来学习不同位置的pattern。

  • 我们可以对一张image做subsampling(二次抽样)，对图像辨识来说，是没有太大的影响的。

The whole CNN structure

下图展示了CNN的整体流程。

convolution主要做两件事，第一件事检测某个pattern不需要看整张image，然后第二件事是同一个pattern会出现在图片的不同区域。Max Pooling主要做缩放图片。

 Convolution（卷积）

  • Property 1

每一个Filter都是通过Training data学出来的，而不是人为设计的。当它侦测的时候，并不会去看整张image，它只看一个3*3范围内的pixel，就可以判断某一个pattern有没有出现，这就考虑了property 1。

  • Property 2

同一个pattern出现在image左上角的位置和左下角的位置，并不需要用到不同的filter，我们用filter1就可以侦测出来，这就考虑了property 2

  • Feature Map(特征映射)

我们用不同的filter去做convolution得到的结果就叫Feature Map(特征映射)，有多少个filter，对应就有多少个映射后的image。

  • Convolution V.s. Fully connected

每一个filter就相当于一个神经元。如下图，我们将36个特征值排成一列，而filter1就相当于是9个w。下图用不同的颜色代表不同的w，卷积的时候并没有将所有的特征值与filter做内积，这也减少了参数的使用。

Max Pooling

现在，我们将每个feature map划分成四等分，取每一份里最大的。

这时feature map变成了2x2的矩阵了，再次减少了特征。

Flatten

Flatten就是，把左边的feature map拉直，然后把它丢进一个Fully connected Feedforward network。

 CNN in Keras

 What does CNN learn？

我们任取一个filter，我们用来表示该filter每一个参数的和，这个和表示该filter被激活(被训练)的程度。这时我们要找一个输入x，这个x可以让这个和最大，当这个和最大的时候，被激活的程度也就越大。这时，我们使用梯度上升的方法去寻找使最大的x*。

what does filter do

假设说我在50个filter里任取12个filter，然后来分别看这12个filter找的x*,我们发现每个filter找的x都比较有特点，也就是说每一个filter可以识别一张图的某一类特点。

what does neuron do

然后我们将经过CNN的image在flatten后传入fully connect network。然后任取一个神经元记为aj,我要找到使aj最大的x。

每一个neuron不再是只看整张图的一小部分，它现在的工作是看整张图。

 what about output

然后我们来找令output最大的x*，结果如下，我们发现这就张图我们是看不懂的。但是是机器可以识别它们分别代表哪一个数字。那么我们对它进行处理，L1正则化，这时的识别效果会好很多。

 Deep Dream

Deep Dream是，如果你给machine一张image，它会在这个image里面加上它看到的东西。

  • Deep Style

如果今天你input一张image，Deep Style做的事情就是让machine去修改这张图，让它有另外一张图的风格，如下所示。

Application

  • Playing Go

对于CNN来说，就是直接把它当成一个image来看待，然后再output下一步要落子的位置。

Speech

filter只在Frequency即纵坐标的方向上移动，而不在时间的序列上移动。

 Text

首你把这个word sequence里面的每一个word都用一个vector来表示，vector代表的这个word本身的semantic (语义)，那如果两个word本身含义越接近的话，它们的vector在高维的空间上就越接近，这个东西就叫做word embedding。

keep--learning
关注
  • 3
    点赞
  • 踩
  • 16
    收藏
    觉得还不错? 一键收藏
  • 4
    评论
专栏目录
深度学习—卷积神经网络（Convolutional Neural Networks）
qq_28505705的博客
11-12 7538
卷积神经网络（Convolutional Neural Networks） 卷积神经网络（convolutional neural network, CNN），是一种专门用来处理具有类似网格结构的数据的神经网络。例如时间序列数据（可以认为是在时间轴上有规律地采样形成的一维网格）和图像数据（可以看作是二维的像素网格）。卷积网络在诸多应用领域都表现优异。“卷积神经网络’’ 一词表明该网络使用了卷积（c...
卷积神经网络 Convolutional Neural Network ｜ CNN
JasonH2021的博客
07-07 1万+
介绍了卷积神经网络的基本思想，应用场景，优缺点，建模过程中的注意事项，研究课题，实现的类库方法和代码案例等
卷积神经网络（convolutional neural network, CNN）
qq_41536160的博客
05-28 6万+
基本定义 卷积神经网络(convolutional neural network, CNN)，是一类包含卷积计算且具有深度结构的前馈神经网络。卷积神经网络是受生物学上感受野（Receptive Field）的机制而提出的。卷积神经网络专门用来处理具有类似网格结构的数据的神经网络。例如，时间序列数据（可以认为是在时间轴上有规律地采样形成的一维网格） 和图像数据（可以看作是二维的像素网格）。 1.卷积层（convolutional layer） 作用：特征提取 卷积层内部包含多个卷积核，组成卷积核的每个元素都
Convolutional Neural Networks (CNNs / ConvNets)
moonlightpeng的博客
11-02 1356
原文链接CS231n Convolutional Neural Networks for Visual Recognition Table of Contents: Architecture Overview ConvNet Layers Convolutional Layer Pooling Layer Normalization Layer Fully-Connected Layer Converting Fully-Connected Layers to Convolutio.
Deep Learning（深度学习）学习笔记整理系列之（七）
热门推荐
zouxy09的专栏
04-10 66万+
Deep Learning（深度学习）学习笔记整理系列 zouxy09@qq.com http://blog.csdn.net/zouxy09 作者：Zouxy version 1.0 2013-04-08 声明： 1）该Deep Learning的学习系列是整理自网上很大牛和机器学习专家所无私奉献的资料的。具体引用的资料请看参考文献。具体的版本声明也参考原文献。 2）本文仅供学
卷积神经网络（Convolutional Neural Network，CNN
最新发布
05-06
概述：卷积神经网络（Convolutional Neural Network，CNN）是一种在计算机视觉和图像处理领域非常成功的深度学习模型。本文将以可视化的方式解析卷积神经网络的结构图，以便更好地理解CNN的工作原理。 1. 输入层...
Convolutional Neural Network_神经网络_CNN_
09-30
卷积神经网络方面很不错的外文文献，很值得学习！
【李宏毅机器学习笔记】9、卷积神经网络（Convolutional Neural Network，CNN）
01-20
【李宏毅机器学习笔记】1、回归问题（Regression） 【李宏毅机器学习笔记】2、error产生自哪里？ 【李宏毅机器学习笔记】3、gradient ...【李宏毅机器学习笔记】9、Convolutional Neural Network（CNN） ——————
CAPTCHA Recognition Based on Convolutional Neural Network
04-25
This project uses PyTorch to build a deep learning model based on a Convolutional Neural Network (CNN) to recognize complex CAPTCHA images composed of numbers and letters. Here we use the captcha ...
mnist.rar_DHZ_MNIST_neural network_卷积神经网络
09-15
convolutional neural network
【综述】一文读懂卷积神经网络(CNN)
qq_43673118的博客
09-07 2万+
卷积神经网络是多层感知机(MLP)的变种，由生物学家休博尔和维瑟尔在早期关于猫视觉皮层的研究发展而来，视觉皮层的细胞存在一个复杂的构造，这些细胞对视觉输入空间的子区域非常敏感，称之为感受野。CNN由纽约大学的Yann Lecun于1998年提出(LeNet-5)，其本质是一个多层感知机，成功的原因在于其所采用的局部连接和权值共享的方式：一方面减少了权值的数量使得网络易于优化；另一方面降低了模型的复杂度、减小了过拟合的风险。当网络的输入为图像时，这些优点将表现地更加明显。
深度学习之卷积神经网络(Convolutional Neural Networks, CNN)
fenglepeng的博客
05-12 4万+
前面, 我们介绍了DNN及其参数求解的方法(BP算法),我们知道了DNN仍然存在很多的问题,其中最主要的就是BP求解可能造成的梯度消失和梯度爆炸的问题.那么,人们又是怎么解决这个问题的呢?本节的卷积神经网络(Convolutional Neural Networks, CNN)就是一种解决方法. 我们知道神经网络主要有三个部分组成, 分别为: 网络结构---描述神经元的层次与连接神经元的结构. 激活函数(激励函数)--- 用于加入非线性的因素,解决线性模型所不能解决的问题. 参数学习方...
吴恩达深度学习笔记——卷积神经网络（Convolutional Neural Networks）
亦梦亦醒乐逍遥的博客
08-16 2826
卷积神经网络
深度学习 专项课程 (四) —— Convolutional Neural Networks
LJ的博客
09-13 968
Coursera - Convolutional Neural Network - Andrew Ng 学习随笔 Part 1 Fundations of Convolutional Neural Network 一些常识：卷积意义基本性质. 尺寸计算 [((2xPad + Input) - Filter) / Stride + 1]. **Valid Convolution：不加padCou...
卷积神经网络（Convolutional Neural Networks）概述
u014678284的博客
03-11 1203
卷积神经网络是人工神经网络的一种，已成为当前语音分析和图像识别领域的研究热点。它的权值共享网络结构使之更类似于生物神经网络，降低了网络模型的复杂度，减少了权值的数量。该优点在网络的输入是多维图像时表现的更为明显，使图像可以直接作为网络的输入，避免了传统识别算法中复杂的特征提取和数据重建过程。卷积网络是为识别二维形状而特殊设计的一个多层感知器，这种网络结构对平移、比例缩放、倾斜或者共他形式的变形具有...
大话卷积神经网络（CNN）
qq_33287871的博客
10-04 4285
这里的神经网络，也指人工神经网络（Artificial Neural Networks，简称ANNs），是一种模仿生物神经网络行为特征的算法数学模型，由神经元、节点与节点之间的连接（突触）所构成，如下图： 每个神经网络单元抽象出来的数学模型如下，也叫感知器，它接收多个输入（x1，x2，x3…），产生一个输出，这就好比是神经末梢感受各种外部环境的变化（外部刺激），然后产生电信号，以便于转导到神经细胞（又叫神经元）。 单个的感知器就构成了一个简单的模型，但在现实世界中，实际的决策模型则要复杂得多，往往是由.
【深度学习基础】一文读懂卷积神经网络(Convolutional Neural Networks, CNN)
非晚非晚的博客
12-12 3965
CNN从90年代的LeNet开始，21世纪初沉寂了10年。直到2012年Geoffrey和他学生Alex在ImageNet的竞赛中，刷新了image classification的记录，一举奠定了deep learning 在计算机视觉中的地位。这次竞赛中Alex所用的结构就被称为作为AlexNet，AlexNet使用的就是CNN。1. 基本概念2. 卷积神经网络的结构2.1 输入层 2.2 卷积层2.3 池化层2.4 全连接层2.5 卷积神经网络的其它概念（1）感受野（2）padding（3）stride
卷积神经网络（Convolutional Neural Network，CNN）的概念
06-09
卷积神经网络（Convolutional Neural Network，CNN）是一种专门用于处理具有类似网格结构的数据的神经网络，常用于图像、语音和自然语言处理等领域。 CNN 的核心思想是通过卷积操作来提取输入数据中的特征，卷积...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 4
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值