CNN 卷积神经网络结构

最新推荐文章于 2024-04-17 21:00:13 发布
最新推荐文章于 2024-04-17 21:00:13 发布
阅读量4.3w 收藏 76
点赞数 15
分类专栏： 深度学习 文章标签： 神经网络 cnn
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/zhongkeli/article/details/51854619
版权

CNN

cnn每一层会输出多个feature map, 每个Feature Map通过一种卷积滤波器提取输入的一种特征，每个feature map由多个神经元组成，假如某个feature map的shape是m*n, 则该feature map有m*n个神经元。对于卷积层会有kernel, 记录上一层的feature map与当前层的卷积核的权重,因此kernel的shape为(上一层feature map的个数，当前层的卷积核数)。本文默认子采样过程是没有重叠的，卷积过程是每次移动一个像素，即是有重叠的。默认子采样层没有权重和偏置。关于CNN的其它描述不在这里论述，可以参考一下参考文献。只关注如何训练CNN。

CNN网络结构

一种典型卷积网络结构是LeNet-5，用来识别数字的卷积网络。结构图如下（来自Yann LeCun的论文）：
LeNet-5
在卷积神经网络算法的一个实现文章中，有一个更好看的图:
LeNet-5
该图的输入是一张28*28大小的图像，在C1层有6个5＊5的卷积核，因为C1层输出6个(28-5+1)(28-5+1)大小的feature map。然后经过子采样层，这里假设子采样层是对卷积层的均值处理(mean pooling), 其实一般还会有加偏置和激活的操作，为了简化，省略了这两步，只是对卷积层进行一个采样的操作。因此S2层输出的6个feature map大小为(24/2)(24/2).在卷积层C3中，它的输入是6个feature map，与C1不一样（C1只有一个feature map，如果是RGB的话，C1会有三个channel）。C3层有12个5＊5卷积核，每个卷积核会与上一层的6个feature map分别做卷积（事实上，一般是选择几种输入feature map来做卷积，而不是全部的feature map），然后对这6个卷积结果求和组成一个新的feature map，即该层会有12个大小为(12-5+1)*(12-5+1)的feature map，这个feature map是经过sigmod 函数处理然后结果下一层S4。
这里写图片描述

图片来源

同理，S4层有12个(与卷积层的feature map数一致)大小为(8/2)*(8/2)的feature map。输出层把S4层的feature mapflatten一个向量，向量长度为12*4*4=192,以该向量作为输入，与下面的其它层全连接，进行分类等操作，也就是说把一张图片变成一个向量，接入到别的网络，如传统的BP神经网络，不过从整体来看，CNN可以看做是一个BP神经网络。在 这里有两张很生动的图来描述这个过程:
这里写图片描述
这里写图片描述

权值共享理解

从代码的实现来看，每个卷积核会与部分或全部的输入(上一层输出)feature map进行卷积求和，但是每个卷积核的权重与一个feature map是一一对应，如上一章节中的C3-S4,说是有12个卷积核，然后就有12个输出feature map，但是每个卷积核与输入的6个feature map的权重都是不一样，即kernel不一样，也就是说每个卷积核的权重与一个feature map是一一对应。至于权值共享的话，对于同一个输入的feature map的神经元patch，用的是同一个卷积核权重，这个是共享的，只在同feature map共享，不在跨feature map共享，只是个人理解，有可能有错，if wrong please correct me.

zhongkeli
关注
  • 15
    点赞
  • 踩
  • 76
    收藏
    觉得还不错? 一键收藏
  • 5
    评论
专栏目录
CNN 卷积神经网络
04-22
The first CNN appeared in the work of Fukushima in 1980 and was called Neocognitron. The basic architectural ideas behind the CNN (local receptive fields,shared weights, and spatial or temporal subsampling) allow such networks to achieve some degree of shift and deformation invariance and at the same time reduce the number of training parameters. Since 1989, Yann LeCun and co-workers have introduced a series of CNNs with the general name LeNet, which contrary to the Neocognitron use supervised training. In this case, the major advantage is that the whole network is optimized for the given task, making this approach useable for real-world applications. LeNet has been successfully applied to character recognition, generic object recognition, face detection and pose estimation, obstacle avoidance in an autonomous robot etc. myCNN class allows to create, train and test generic convolutional networks (e.g., LeNet) as well as more general networks with features: - any directed acyclic graph can be used for connecting the layers of the network; - the network can have any number of arbitrarily sized input and output layers; - the neuron’s receptive field (RF) can have an arbitrary stride (step of local RF tiling), which means that in the S-layer, RFs can overlap and in the C-layer the stride can differ from 1; - any layer or feature map of the network can be switched from trainable to nontrainable (and vice versa) mode even during the training; - a new layer type: softmax-like M-layer. The archive contains the myCNN class source (with comments) and a simple example of LeNet5 creation and training. All updates and new releases can be found here: http://sites.google.com/site/chumerin/projects/mycnn
CNN卷积神经网络识别手写汉字MNIST数据集.zip
12-21
这是我修改的别人的代码，别人的代码有点问题，我修改了一下，代码的正确率很高，可达90%以上，这是一个5层卷积神经网络的代码，误差传递和梯度更新代码里都有，可自学。
深度学习--CNN卷积神经网络（附图）
最新发布
ssheudjbdndnjd的博客
04-17 1974
让我们先看一下CNN的框架卷积层中后是ReLu激活函数 ，然后是深化池，之后是全连接，最后进行Softmax进行归一化。所以，我们先逐一了解一下它们各个部分全连接层也称感知机，BP神经网络降维呢，也很好理解，由第一列的九维变为第二列的四维我们再来看看缺点在这里，我们只定义了一层全连接层 前向传播是我们自己来定义的，而后向传播是自动执行的为了解决全连接层去全局感知的问题，我们提出了一种解决方案--局部连接图示0，1，3，4与w00,w10,w30,w40相乘得到a0，同理1，2，4，5与w11,w21,w
深度学习——CNN(卷积神经网络)（超详细）
weixin_37763870的博客
11-16 5万+
目录 一、卷积神经网络（CNN）定义 二、DNN与CNN的区别 三、CNN五种结构组成 1、输入层 2、卷积层(Convolution Layer) 3、池化层(Pooling Layer) 4、全连接层 5、Softmax层 一、卷积神经网络（CNN）定义 卷积神经网络（convolutional neural network, CNN），是一种专门用来处理具有类似网格结构的数据的神经网络。卷积...
TensorFlow框架(4)之CNN卷积神经网络详解
a567676的博客
08-31 786
1. 卷积神经网络 1.1 多层前馈神经网络 　　多层前馈神经网络是指在多层的神经网络中，每层神经元与下一层神经元完全互连，神经元之间不存在同层连接，也不存在跨层连接的情况，如图 11所示。 图 11 对于上图中隐藏层的第j个神经元的输出可以表示为： 其中，f是激活函数，bj为每个神经元的偏置。 1.2 卷积神经网络 1.2.1 网络结构 　　卷积神经网...
卷积神经网络（CNN）的整体框架及细节（详细简单）
小林学编程的博客
04-06 8万+
详细简单的介绍卷积神经网络（CNN)，让读者快速掌握！！！
One PUNCH Man——深度学习入门
No_Game_No_Life_的博客
05-06 1625
文章目录人类视觉原理从神经网络到卷积神经网络（CNN）数据输入层卷积计算层卷积的计算参数共享机制激励层池化层全连接层CNN优缺点卷积神经网络的常用框架 人类视觉原理 深度学习的许多研究成果，离不开对大脑认知原理的研究，尤其是视觉原理的研究。 1981 年的诺贝尔医学奖，颁发给了 David Hubel（出生于加拿大的美国神经生物学家） 和TorstenWiesel，以及 Roger Sperry。...
现代卷积神经网络经典架构图
weixin_45745314的博客
02-18 2171
https://zh-v2.d2l.ai/
一文让你彻底了解卷积神经网络
热门推荐
比比的博客
08-03 20万+
卷积神经网络（Convolutional Neural Network，CNN）是一种前馈神经网络，它的人工神经元可以响应一部分覆盖范围内的周围单元，对于大型图像处理有出色表现。 它包括卷积层(convolutional layer)和池化层(pooling layer)。 对比：卷积神经网络、全连接神经网络 左图：全连接神经网络（平面），组成：输入层、激活函数、全连接层 右图：卷积神经...
卷积神经网络（CNN）网络结构及模型原理介绍
stephon_100的博客
06-24 9830
卷积神经网络（CNN）网络结构模型构建及介绍
四大经典CNN架构之一(ALexNet)
12-21
本资源详细解读了经典论文ImageNet Classification with Deep Convolutional Neural Networks，主要介绍ALexNet的架构、特点、计算流程
CNN_卷积神经网络MATLAB_
10-04
卷积神经网络（CNN，Convolutional Neural Network）是一种深度学习模型，专为处理具有网格状结构数据，如图像、声音或时间序列等设计。在MATLAB中，我们可以利用其强大的数学计算能力和丰富的深度学习工具箱来实现...
CNN卷积神经网络资源合集
05-29
cnn卷积神经网络 卷积神经⽹络（CNN,Convolutional Neural Network）,是近来深度学习中的热门之⼀，它是⼀种专门⽤来处理具有类似⽹格结构的数据的神经⽹络。⼏乎所有的图像、语⾳识别领域的重要突破都是卷积神经⽹...
cnn卷积神经网络
12-13
卷积神经网络（CNN，Convolutional Neural Network）是一种深度学习模型，专为处理具有网格状结构的数据，如图像、声音或时间序列等。在计算机视觉领域，CNNs已经成为图像分类和识别任务的标准工具，其核心特性在于...
卷积神经网络 Convolutional Neural Network ｜ CNN
JasonH2021的博客
07-07 2万+
介绍了卷积神经网络的基本思想，应用场景，优缺点，建模过程中的注意事项，研究课题，实现的类库方法和代码案例等
CNN卷积神经网络
dayenglish的专栏
10-20 1998
clear all; close all; clc; addpath('../data'); addpath('../util'); load mnist_uint8; train_x = double(reshape(train_x',28,28,60000))/255; test_x = double(reshape(test_x',28,28,10000))/255; train_y = d
目标检测：各种网络结构对比
那年聪聪
02-09 4247
包含FPN等常用的网络结构。
CNN经典结构（AlexNet，ZFNet，OverFeat，VGG，GoogleNet，ResNet）
大数据之眸
06-04 1566
前言 本文主要介绍2012-2015年的一些经典CNN结构，从AlexNet，ZFNet，OverFeat到VGG，GoogleNetv1-v4，ResNetv1-v2。 在论文笔记：CNN经典结构2中我介绍了2016-2017年的几个经典CNN结构，WideResNet，FractalNet，DenseNet，ResNeXt，DPN，SENet。另外，在ImageNet历年冠军和相关CNN模型中，我简单介绍了ImageNet和历年冠军。 AlexNet 贡献：ILSVRC2012冠军，展现出了深度C
cnn卷积神经网络结构图
05-24
以下是一个简单的CNN卷积神经网络结构图： ![CNN卷积神经网络结构图](https://cdn-images-1.medium.com/max/1600/1*iIXOmGDzrtTJmdwbn7cGMQ.png) 在这个结构中，输入的数据通过一系列的卷积层、池化层和全连接层进行处理，最终输出预测结果。每个卷积层通常由多个卷积核组成，每个卷积核可以学习不同的特征。池化层可以减少数据的维度，并保留数据的重要特征。全连接层将汇总的特征映射到对应的类别标签。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 5
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值