卷积神经网络 Convolutional Neural Network (CNN)

最新推荐文章于 2023-07-07 21:52:56 发布
最新推荐文章于 2023-07-07 21:52:56 发布
阅读量1.0k 收藏 2
点赞数 1
分类专栏： ML 文章标签： cnn 深度学习 神经网络
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_54851255/article/details/128602361
版权

CNN

仅供个人学习，不具参考价值！

Image Classification

image-20230107094012831

  • dimension长度表示能辨识多少种

如何把图像作为输入呢？巨大的向量 (内容为某一位置某一颜色的强度)

image-20230107094931929

  • channels: R G B三种颜色

参数很多，flexibility越大，但也增加了overfitting的风险(数学问题，为什么，后续详谈)

image-20230107100123729

考虑到影像辨识的特性，我们不需要每一个Neuron都和input dimension都有一个weight，需要对影像辨识特性有一些观察

Observation 1

A neuron doesn’t have to see the whole image

image-20230107100948714

每一个Neuron只在意自己Receptive field中发生的事情

image-20230107101316465

如何确定Receptive field还是看你自己咯~

image-20230107101910169

  • 彼此之间可重叠
  • 同一范围可以有多个不同Neuron来守卫

我也浮想联翩了~

image-20230107102054368

yeah!!! 你可以任意设计Receptive fields，但是经典是这样的！

image-20230107112235991

  • 会看all channels (所以我们只看高*宽，称为kernel size，常见的kernel size就是3 * 3，原因后续详谈)
  • 同一个Receptive Field会有一组Neuron去守备
  • 我们希望Receptive Field之间有重叠，否则可能会miss交叠处的pattern，移动量stride（一般设1/2） - hyperparameter
  • 超出范围，那就补值(padding)为0，当然有各种padding方法

Observation 2

image-20230107112537507

是不是可以让不同Reception field的Neuron共享参数

image-20230107113256963

  • weight完全一致
  • Two neurons with the same reception field wouldn’t share parameters

经典的共享方法：

image-20230107113743923

Benefit of Convolutional Layer

因为convolutional layer是特别为影像设计的，所以虽然model bias较大，但在影像上就不是问题。

image-20230107115219545

Another story based on filter

image-20230108093903204

image-20230108094441621

image-20230108094520686

  • feature map: 数字群，这个feature map可以看做是另一张图片，不过channel数对应的是filter数

Multiple Convolutional Layers

叠第2层，不过channel现在是64（前一个convoluntion layer的filter数）

filter的大小3*3会不会让network无法看到比较大范围的pattern呢？

不会！！！！oh my gosh!!! 原来在第二层映射的是原图像上很大的范围！3 * 3 → 5 * 5

image-20230108113835717

Comparision of Two Stories

story1中共用的一组参数就是story2中的filter

image-20230108114714638

story1中不同的Neuron共用参数守备不同的范围，就是story2中 一个filter扫过整张图片-convolution

image-20230108115057800

image-20230108115214369

Observation 3

image-20230108115325912

Pooling - Max Pooling

没有参数，没有要learn的东西，行为都已经规定好

每一组(大小自己决定)选一个代表，Max Pooling中就是选择最大的那个

image-20230108120551215

把图片变小

Convolutional Layers + Pooling

几次convolution一次pooling

image-20230108121036118

  • 4 * 4 → 2 * 2

但对performance有伤害，可能也会丢掉细小的东西，所以今年流行有full convolution network

最终把影像中的矩阵拉直变成一个向量

image-20230108121707821

Application: Playing Go

image-20230108155658002

  • 19*19 解析度的图片
  • 48 channels in Alpha Go，这涉及围棋规则

Why CNN for Go playing???

image-20230108160147154

pooling? 你还可以随意拿掉一个row或column吗？

image-20230108160546602

image-20230108160642107

To learn more …

CNN is not invariant to scaling and rotation

image-20230108160830672

we need data augmentation就是截一小块出来放大/旋转，让CNN看

Spatial Transformer Layer可以解决这个问题，请自行参考

浮光 掠影
关注
  • 1
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 3
    评论
专栏目录
卷积神经网络（Convolutional Neural Network，CNN
05-06
概述：卷积神经网络（Convolutional Neural Network，CNN）是一种在计算机视觉和图像处理领域非常成功的深度学习模型。本文将以可视化的方式解析卷积神经网络的结构图，以便更好地理解CNN的工作原理。 1. 输入层...
卷积神经网络（convolutional neural network, CNN）
qq_41536160的博客
05-28 6万+
基本定义 卷积神经网络(convolutional neural network, CNN)，是一类包含卷积计算且具有深度结构的前馈神经网络。卷积神经网络是受生物学上感受野（Receptive Field）的机制而提出的。卷积神经网络专门用来处理具有类似网格结构的数据的神经网络。例如，时间序列数据（可以认为是在时间轴上有规律地采样形成的一维网格） 和图像数据（可以看作是二维的像素网格）。 1.卷积层（convolutional layer） 作用：特征提取 卷积层内部包含多个卷积核，组成卷积核的每个元素都
深度学习—卷积神经网络（Convolutional Neural Networks）
qq_28505705的博客
11-12 7465
卷积神经网络（Convolutional Neural Networks） 卷积神经网络（convolutional neural network, CNN），是一种专门用来处理具有类似网格结构的数据的神经网络。例如时间序列数据（可以认为是在时间轴上有规律地采样形成的一维网格）和图像数据（可以看作是二维的像素网格）。卷积网络在诸多应用领域都表现优异。“卷积神经网络’’ 一词表明该网络使用了卷积（c...
卷积神经网络 Convolutional Neural Network ｜ CNN
JasonH2021的博客
07-07 1万+
介绍了卷积神经网络的基本思想，应用场景，优缺点，建模过程中的注意事项，研究课题，实现的类库方法和代码案例等
深度学习 （三）Convolutional Neural Network
李龙生
10-27 571
What is Deep Learning 认识任何事物之前最好了解这一事物在我们的知识认知体系中所处的位置，这样有助于将其归纳到自己的认知体系中，产生联系并编制成类似于知识图谱样的结构，不用记住也不好忘记。 从大的方面说深度学习也属于机器学习这个分支科学中的一个学习方法，而其自身起源却是受人类生物神经系统结构的启发，从神经元细胞(树突、轴突)之间如何起作用的模仿，每个神经元是一个线性函数表示，无...
深度学习：卷积神经网络（convolution neural network）
weixin_30512089的博客
07-22 551
（一）卷积神经网络 卷积神经网络最早是由Lecun在1998年提出的。 卷积神经网络通畅使用的三个基本概念为： 1.局部视觉域； 2.权值共享； 3.池化操作。 在卷积神经网络中，局部接受域表明输入图像与隐藏神经元的连接方式。在图像处理操作中采用局部视觉域的原因是：图像中的像素并不是孤立存在的，每一个像素与它周围的像素都有着相互关联，而并不是与整幅图像的像素点相关，因此采用局部视觉接...
卷积神经网络（Convolutional Neural Network，CNN）是一种深度学习模型
最新发布
05-10
cnn卷积神经网络
【李宏毅机器学习笔记】9、卷积神经网络（Convolutional Neural Network，CNN）
01-20
【李宏毅机器学习笔记】1、回归问题（Regression） 【李宏毅机器学习笔记】2、error产生自哪里？ 【李宏毅机器学习笔记】3、gradient ...【李宏毅机器学习笔记】9、Convolutional Neural Network（CNN） ——————
用文字描述一个典型的卷积神经网络（Convolutional Neural Network, CNN）的结构图.txt
05-06
卷积神经网络结构图
Convolutional Neural Network_神经网络_CNN_
09-30
卷积神经网络方面很不错的外文文献，很值得学习！
Convolution Neural Network (CNN)
05-15
PS：本篇blog为ese机器学习短期班参考资料（20140516课程），本文只是简要讲最naive最simple的思想，重在实践部分，原理课上详述。
【深度学习 理论】Convolutional Neural Network
一定要站在自己热爱的生活里闪闪发光
08-20 3万+
目录 0.Instruction 1.Convolution 2.Max Pooling 3.Flatten 4.CNN in Keras 5.What does CNN learn? （1）Filter做什么？ （2）neuron做什么？ （3）CNN输出是什么？ 0.Instruction CNN是处理图像的的network。 做图像处理，常规的Fully connected network也可以做。但是会有特别多的参数（例如：100*100的iam...
Convolutional Neural Network(卷积神经网络超详细解释)
ygp12345的博客
10-03 6276
Why CNN for Image? 我们可以使用fully connect神经网络去进行图像识别，但是所需要的参数太多了！！我们要使用CNN(卷积神经网络)来简化。 一个神经元不必接收整张图的特征，比如说我有一个判断鸟嘴的神经元，我只需如下图所示，将鸟嘴那一部分传给神经元。 相同的pattern在不同区域时，我这个神经元就可以使用相同的参数来学习不同位置的pattern。 将图像缩小也是减少特征值或参数的方法，如下图，subsampling后还是能分辨出是鸟。 Convolutional Neur
Convolutional Neural network（CNN）
Danielzph的博客
04-21 251
Convolutional Neural network(part 1) 李宏毅视频学习笔记 1. Why CNN for Image？ CNN V.s. DNN 我们当然可以用一般的neural network来做影像处理，不一定要用CNN，比如说，你想要做图像的分类，那你就去train一个neural network，它的input是一张图片，你就用里面的pixel来表示这张图片，也就是一个很长很长的vector，而output则是由图像类别组成的vector，假设你有1000个类别，那output就有
Course 4 -卷积神经网络 - 第一周测验 - 卷积神经网络的基本知识
weixin_44304362的博客
08-25 1001
卷积神经网络错题记录Course 4 -卷积神经网络 - 第一周测验 - 卷积神经网络的基本知识Question 8Question 9Question 10 Course 4 -卷积神经网络 - 第一周测验 - 卷积神经网络的基本知识 Question 8 Because pooling layers do not have parameters, they do not affect the ...
4 Deep learning Convolutional Neural Networks
这里是张聪明，正在学习中，请稍后
12-02 1844
WEEK 1 The basics of ConvNets 1.What do you think applying this filter to a grayscale image will do? Detect vertical edges 2.Suppose your input is a 300 by 300 color (RGB) image, and you are not using...
Coursera Deep Learning 4 卷积神经网络 第一周习题
weixin_34388207的博客
11-24 623
The basics of ConvNets1What do you think applying this filter to a grayscale image will do? Detect horizontal edges Detect vertical edges Detect 45 degree edges Detect image contrast 2Suppose your ...
Convolution Neural Network (CNN) 原理与实现
热门推荐
Rachel Zhang的专栏
05-15 10万+
本文结合Deep learning的一个应用，Convolution Neural Network 进行一些基本应用，参考Lecun的Document 0.1进行部分拓展，与结果展示（in python）。 分为以下几部分： 1. Convolution（卷积） 2. Pooling（降采样过程） 3. CNN结构 4. 跑实验 下面分别介绍
卷积神经网络（Convolutional Neural Network，CNN）的概念
06-09
卷积神经网络（Convolutional Neural Network，CNN）是一种专门用于处理具有类似网格结构的数据的神经网络，常用于图像、语音和自然语言处理等领域。 CNN 的核心思想是通过卷积操作来提取输入数据中的特征，卷积...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

浮光 掠影

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值