以LeNet为例分析CNN中的参数量

最新推荐文章于 2023-11-02 19:25:43 发布
最新推荐文章于 2023-11-02 19:25:43 发布
阅读量2k 收藏
点赞数 1
分类专栏： CAFFE Deep Learning 工作
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/cheese_pop/article/details/78815759
版权
本文以LeNet为例，详细分析了CNN中不同层的参数量。从C1、S2、C3到S4，解释了局部连接和权值共享如何减少参数数量，并给出各层的连接数和可训练参数量。
摘要由CSDN通过智能技术生成

这里写图片描述

CNN最重要的两点：局部连接和权值共享
局部连接：神经元和上层部分神经元相连接
权值共享：基于局部连接，在每个神经元和上层部分神经元之间权值是共享的，也就是说对于一个神经元，和它相连的所有上层神经元之间的权值都是一致的，这样可以大大减少参数量。对于在feature_map中的理解：对于一个feature_map只需要训练一种kernel。

首先，对于LeNet整体上介绍一下：

  • 对于一张大小为 32×32 32 × 32 的输入图像
  • 经过第一层卷积层C1得到了6张大小为 28×28 28 × 28 的feature_map
  • 经过下采样层S2，得到6张 14×14 14 × 14 的feature_map
  • 经过第二层卷积层C3得到16张大小为 10×10 10 × 10 的feature_map
  • 经过下采样层S4，得到16张 5×5 5 × 5 的feature_map
  • 经过第三层卷积层C5得到120张大小为 1×1 1 × 1 的feature_map
  • 经过全连接层F6得到84个神经元

接下来逐层分析：

1. C1

  • C1中的每个feature_map与输入中的
最低0.47元/天 解锁文章
小胖蹄儿
关注
  • 1
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
专栏目录
卷积神经网络CNN与LeNet5详解(可训练参数量、计算量、连接数的计算+项目实战)
雷恩Layne
07-28 1万+
文章目录神经网络CNN卷积神经网络CNN的由来局部感受野共享权重池化CNN的结构光栅化LeNet5详解LeNet5-C1层LeNet5-S2层LeNet5-C3层LeNet5-S4层LeNet5-C5层LeNet5-F6层LeNet5-OUTPUT层计算公式LeNet5实战定义网络模型初始化模型参数训练测试准确率预测结果 神经网络 神经网络可以看成一个端到端的黑盒，中间是隐藏层(可以很深)，两边是输入与输出层，完整的神经网络学习过程如下： 定义网络结构（指定输入层、隐藏层、输出层的大小） 初始化模型参数
LeNet神经网络 Pytorch实现 计算模型参数量 模型保存和加载
b15040915的博客
04-07 993
LeNet网络模型结构： 代码实现： import os import torch import torch.nn as nn import sys import time import d2lzh_pytorch as d2l os.environ["CUDA_VISIBLE_DEVICES"] = "0" device = torch.device('cuda' if torch.cuda...
LeNet论文阅读：LeNet结构以及参数个数计算
silent56_th的博客
12-04 1万+
本文是对Yann Lecun大神的经典论文“Gradient-Based Learning Applied to Document Recognition”的阅读笔记之一，主要介绍LeNet的结构以及参数个数的计算，上一篇博客介绍的CNN设计原理。作者才疏学浅，还望指教。LeNet-5 引用自原论文“Gradient-Based Learning Applied to Document Reco
CNN-LENET参数计算
qq_39691463的博客
07-28 755
cnn之LeNet5模型参数浅谈 鄙人最近一直在学习cnn，对于cnn基本流程，工作原理和简单的模型代码都比较熟练了，但是对于经典的cnn模型（如LeNet5,inception3）还是知之甚少。本文就先总结浅谈LeNet,下篇文章再论述Inception-3模型。话不多说，上正文 LeNet-5的背景 只需要记住LeNet模型是第一个应用于数字识别问题的卷积神经网络模型，在Mnist数据集上，正确率可达到99.2% lenet模型使用tanh和sigmoid来获得非线性输出，一般在池化层之后引入非线性操
LeNet5卷积神经网络训练参数（精度0.985）
06-06
LeNet5神经网络模型在手写数字识别中的识别率很高，通过训练得到0.985精度的参数，可以用于训练更高精度的初始参数。其中卷积核选择表(O：true， X: false)： { O, X, X, X, O, O, O, X, X, O, O, O, O, X, O, O, O, O, X, X, X, O, O, O, X, X, O, O, O, O, X, O, O, O, O, X, X, X, O, O, O, X, X, O, X, O, O, O, X, O, O, O, X, X, O, O, O, O, X, X, O, X, O, O, X, X, O, O, O, X, X, O, O, O, O, X, O, O, X, O, X, X, X, O, O, O, X, X, O, O, O, O, X, O, O, O };
CNN学习笔记之LeNet-5模型各层参数理解
Fireman1994的博客
11-28 3818
LeNet-5 模型是Yann LeCun 教授于1998年在论文《Gradient-based learning applied to document recognition》中提出的，它是第一个成功应用于数字识别问题的卷积神经网络。在 MNIST 数据集上，LeNet-5 模型可以达到大约99.2%的正确率。LeNet-5 模型共有7层，如下图所示： 第1层  卷积
CNN、LeNet
weixin_37461330的博客
02-19 529
一、卷积神经网络 卷积层：卷积层得名于卷积运算，但卷积层中用到的并非卷积运算而是互相关运算。我们将核数组 (通常称为卷积核或过滤器（filter）)上下翻转、左右翻转，再与输入数组做互相关运算，这一过程就是卷积运算。由于卷积层的核数组是可学习的，所以使用互相关运算与使用卷积运算并无本质区别。 卷积层的两个超参数：填充：在输入高和宽的两侧填充元素（通常是0元素） ...
Lenet5参数计算详解
weixin_40993979的博客
02-23 2652
LeNet5 输入层：32×32 C1卷积层： 卷积核大小：5×5 卷积核种类：6 输出特征图大小：28×28 计算公式：32-5+1=28 神经元数量：28×28×6 可训练参数：(5×5+1)×6 (每个滤波器5×5=25个unit参数和一个bias参数，一共6个滤波器) 连接数：(5×5+1）×6×28×28=122304 S2池化层(下采样层)： 输入：28×28 6个(C1中的特征图) 采样区域：2×2 采样方式：4个输.
【深度学习神经网络】--卷积神经网络 CNN与LeNet5详解(可训练参数量、计算量、连接数的计算+项目实战)
TU商的博客
10-25 2228
原文链接：https://blog.csdn.net/qq_37555071/article/details/107629340。
神经网络之LeNet结构分析及参数详解
热门推荐
Genius_zz的博客
10-13 2万+
LeNet整体网络结构： LeNet一共有7层（不包括输入层） 输入层：     输入图像的大小为32*32，这要比mnist数据库中的最大字母（28*28）还大。     作用： 图像较大，这样做的目的是希望潜在的明显特征，比如笔画断续，角点等能够出现在最高层特征监测子感受野的中心。 其他层：     C1，C3，C5为卷积层，S2，S4为降采样层
LeNet -5网络详解（各个参数变化计算）
weixin_40722688的博客
05-31 2513
https://blog.csdn.net/saw009/article/details/80590245
LeNet-5卷积神经网络参数介绍
weixin_43631804的博客
03-03 1532
随着时间的推移，计算机视觉的魅力不断展现，包括各类模型我们都可以直接进行网上下载，但是往往我们就会忽略了模型的一些细节所在，正好在课程学习中老师提及这块内容，我觉得很有必要记录下来给大家借鉴学习，借此我将针对LeNet-5这个第一个卷积神经网络进行相关介绍。 【相关论文可查阅： Y. Lecun, L. Bottou, Y. Bengio and P. Haffner, "Gradient-based learning applied to document recognition," in Pro
LeNet-5各层参数变化情况详解
XXT2018的博客
05-14 5195
LeNet-5网络 LeNet-5共有7层（不包含输入），每层都包含可训练参数；每个层有多个Feature Map（特征图），每个FeatureMap通过一种卷积滤波器提取输入的一种特征，然后每个FeatureMap有多个神经元。 各层参数： 1、输入层 输入图像的尺寸统一归一化为3232。本层不算LeNet-5的网络结构，传统上，不将输入层视为网络层次结构之一。 2、C1层-卷积层 输入图片：3232 卷积核大小：55 通道数：6 输出featuremap大小：2828 （32-5+1=28） 输出神经
LeNet-ResNet-AlexNet网络详解
weixin_41744192的博客
04-14 1932
LeNet-AlexNet-VGG-ResNet-DenseNetLeNet LeNet 不计输入层，LeNet-5共有7层，每一层的结构为： 输入层：输入图像的尺寸统一归一化为32*32。 C1层-卷积层 输入图片：3232 卷积核大小：55 卷积核种类：6 输出feature map大小：2828 （32-5+1）=28 神经元数量：28286 可训练参数：（55+1) * 6（每个滤波器55=25个unit参数和一个bias参数，一共6个滤波器） 连接数：（55+1）62828=12230
LeNet详解
Abraham Ben
11-19 3946
鉴于网上很多的LeNet讲解，但是有没有指明这时LeNet的简化版，本文特对Yann Lecun的原文进行一点讲解，原文地址:[Gradient-Based Learning Applied to Document Recognition](“http://yann.lecun.com/exdb/publis/pdf/lecun-98.pdf“)1. LeNet的网络结构 以下用Cx代表convo
如何计算神经网络参数的个数？
Henry的博客
11-28 6296
神经网络随着层数的加深，网络参数的个数会越来越多，小的网络有成千上万个参数，大的可以达到千万个网络参数。这里我们介绍一下如何计算神经网络参数的个数图像分类的神经网络，包含两个部分：特征提取层+ 分类层特征提取层就是将提取图像中的特征，这里的特征就是图像的细节，例如边缘、关键点等等。类似于人在识别物体的时候，往往不需要看清物体具体长什么样子，只需要观察大概的轮廓就知道这个物体是人还是树。那么这里人的轮廓或者树的轮廓就是特征，而我们是不需要知道这个人长得怎么样的。
【深度学习｜CNN算法】LeNet-5 (1998)详解
最新发布
m0_63190901的博客
11-02 360
深度学习LeNet-5
LeNet网络模型各层及参数解读
青天白鹭的博客
05-01 5602
最近开始学习深度学习，先从各种网络模型开始学起！一、先详细讲解最简单的LeNet网络（采用最常见的LeNet网络图形和BP算法的求解过程：） 1.LeNet-5含输入层共有8层，其中C1，C3，C5为卷积层，S2，S4为降采样层，F6为全连接层，还有一个输出层。每一个层都有多个Feature Map（每个Feature Map中含有多个神经元），输入通过一种过滤器作用，提取输入的一种特征，得到
LeNet-5和cnn的区别
05-16
3. 参数量：LeNet-5的参数量相对较少，适用于较小的图像识别任务，而CNN模型可以处理更复杂的图像任务，需要更多的参数量和计算资源。 4. 应用场景：LeNet-5主要用于手写数字识别等小规模图像分类任务，而CNN模型...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值