Lenet5参数计算详解

最新推荐文章于 2022-10-25 16:00:19 发布
最新推荐文章于 2022-10-25 16:00:19 发布
阅读量2.7k 收藏 35
点赞数 4
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_40993979/article/details/113999461
版权
本文详细介绍了LeNet5的结构，从输入层到输出层的每一层特性，包括卷积层（C1、C3）、池化层（S2、S4）和全连接层（F6）。C1和C3使用5x5卷积核，S2和S4采用2x2下采样，F6和Output层进行特征整合与分类。通过对网络参数、连接数的计算，展示了LeNet5在深度学习早期的重要地位。
摘要由CSDN通过智能技术生成

在这里插入图片描述
LeNet5

输入层：32×32

C1卷积层：
卷积核大小：5×5
卷积核种类：6
输出特征图大小：28×28
计算公式：32-5+1=28

            神经元数量：28×28×6
            可训练参数：(5×5+1)×6 (每个滤波器5×5=25个unit参数和一个bias参数，一共6个滤波器)
            连接数：(5×5+1）×6×28×28=122304

S2池化层(下采样层)：
输入：28×28 6个(C1中的特征图)
采样区域：2×2
采样方式：4个输入相加，乘以一个可训练参数，再加上一个可训练偏置，结果通过sigmoid激活
采样种类：6
输出特征图大小：14×14 (28/2)
连接数：(2×2+1)×6×14×14=5880

C3卷积层(重点讲解)：
输入：S2中6个或者几个特征图组合
卷积核大小：5×5
卷积核种类：16
输出特征图大小：10×10 (14-5+1)=10
可训练参数：6*(355+1)+6*(455+1)+3*(455+1)+1*(655+1)=1516
连接数：10×10×1516=151600

S4层池化层（下采样层）：
输入：10×10
采样区域：2×2
采样方式：4个输入相加，乘以一个可训练参数，在加上一个可训练偏置。通过sigmoid激活
采样种类：16
输出特征图大小：5×5 (10/2)
神经元数量：5×5×16=400
连接数：16×(2×2+1）×5×5=2000

C5卷积层：
输入：5×5 s4的16个特征图
卷积核大小：5×5
卷积核种类：120
输出特征图大小：1×1 (5-5+1)
可训练参数/连接数：120×（16×5×5+1）=48120

F6全连接层
输入：C5卷积层120维向量
计算方式：计算输入向量和权重向量之间的点积，再加上一个偏置，结果通过sigmoid函数输出
可训练参数:84×(120+1)=10164
结点个数：84

Output层-全连接层
输入：
节点个数：10个
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

拉普拉斯的忧殇
关注
卷积神经网络的网络结构——以LeNet-5为例
strint的专栏
03-09 4万+
卷积神经网络是一种特殊的多层神经网络，像其它的神经网络一样，卷积神经网络也使用一种反向传播算法来进行训练，不同之处在于网络的结构。卷积神经网络的网络连接具有局部连接、参数共享的特点。局部连接是相对于普通神经网络的全连接而言的，是指这一层的某个节点只与上一层的部分节点相连。参数共享是指一层中多个节点的连接共享相同的一组参数。
卷积神经网络CNN与LeNet5详解(可训练参数量、计算量、连接数的计算+项目实战)
热门推荐
雷恩Layne
07-28 1万+
文章目录神经网络CNN卷积神经网络CNN的由来局部感受野共享权重池化CNN的结构光栅化LeNet5详解LeNet5-C1层LeNet5-S2层LeNet5-C3层LeNet5-S4层LeNet5-C5层LeNet5-F6层LeNet5-OUTPUT层计算公式LeNet5实战定义网络模型初始化模型参数训练测试准确率预测结果 神经网络 神经网络可以看成一个端到端的黑盒，中间是隐藏层(可以很深)，两边是输入与输出层，完整的神经网络学习过程如下： 定义网络结构（指定输入层、隐藏层、输出层的大小） 初始化模型参数
LeNet-5卷积/池化/全连接参数计算
qq_43168682的博客
10-25 1675
卷积/池化/全连接参数计算 以Lenet-5为例子： LeNet-5有7层： C1.卷积+激励 参数的个数为:(fitler+bias) * channel_depth S2.池化（降低参数量，降低过拟合） C3.卷积+激励 LeNet-5的核心：使用不同channel数量的卷积得到不同的feature map，为了降低计算参数(当时GPU性能不高) 如下:6个3层channel+9个4层...
LeNet-5网络结构及训练参数计算
weixin_30451709的博客
01-30 740
经典神经网络诞生记： 1、LeNet，1998年　　2、AlexNet，2012年　　3、ZF-net，2013年　　4、GoogleNet，2014年　　5、VGG，2014年　　6、ResNet，2015年 LeNet-5 LeNet-5是由 Yann LeCun 等人于1998年提出的，是一个用于识别手写数字的网络，其网络结构图如下所示：...
CNN-LENET参数计算
qq_39691463的博客
07-28 776
cnn之LeNet5模型参数浅谈 鄙人最近一直在学习cnn，对于cnn基本流程，工作原理和简单的模型代码都比较熟练了，但是对于经典的cnn模型（如LeNet5,inception3）还是知之甚少。本文就先总结浅谈LeNet,下篇文章再论述Inception-3模型。话不多说，上正文 LeNet-5的背景 只需要记住LeNet模型是第一个应用于数字识别问题的卷积神经网络模型，在Mnist数据集上，正确率可达到99.2% lenet模型使用tanh和sigmoid来获得非线性输出，一般在池化层之后引入非线性操
LeNet5_LeNet5
09-11
**LeNet5详解** LeNet5是Yann LeCun在1998年提出的一种经典卷积神经网络（Convolutional Neural Network, CNN）架构，主要用于解决手写数字识别问题，尤其是OCR（Optical Character Recognition）应用。在这个项目...
lenet 5 代码 matlab,Lenet 和 Lenet5 结构简单粗暴详解(附完整代码)
weixin_28909745的博客
03-20 1393
LeNetLeNet 早期用来识别手写体数字的图像的卷积神经网络组成部分：卷积层块全连接层块138CFD41-65C8-4ED7-9FB6-ACA8D5E98FEF.pngimage.png直接上代码--- 以下是LeNet 的代码# -- encoding:utf-8 --"""Create on 19/5/25 10:06"""import osimport tensorflow as tff...
LeNet-5结构和参数详解
WenjunDing的博客
01-15 2668
Lenet结构和参数分析
干货| LeNet-5模型详解（附Python详细代码及注释）
中科院AI算法工程师的博客
12-17 9494
LeNet-5模型是Yann LeCun教授与1998年在论文Gradient-based learning applied to document recognition中提出的，它是第一个成功应用于数字识别问题的卷积神经网络。在MNIST数据集上，LeNet-5模型可以达到大约99.2%的正确率。 LeNet-5模型总共有7层，下图展示了LeNet-5模型的架构。 LeNet-5模型结构...
LeNet-5结构及参数解读
睹物思理
05-08 5610
【Key】1、输入层是32x32像素的图片，比数据集中最大的的字符（最大体积是20x20像素的字符位于28x28像素区域的中心）大很多。这样做的原因是能使潜在的特征比如边缘的端点、拐角能够出现在最高层次的特征解码器的接收域的中心。2、各层提取到的特征：可以看到，最后一层f6得到的，是7*12的ascii编码图，是将手写数字转化为了7*12的打印体位图（使用了sigmoid激活，每个像素点1为黑色，...
LeNet5卷积神经网络训练参数（精度0.985）
06-06
LeNet5神经网络模型在手写数字识别中的识别率很高，通过训练得到0.985精度的参数，可以用于训练更高精度的初始参数。其中卷积核选择表(O：true， X: false)： { O, X, X, X, O, O, O, X, X, O, O, O, O, X, O, O, O, O, X, X, X, O, O, O, X, X, O, O, O, O, X, O, O, O, O, X, X, X, O, O, O, X, X, O, X, O, O, O, X, O, O, O, X, X, O, O, O, O, X, X, O, X, O, O, X, X, O, O, O, X, X, O, O, O, O, X, O, O, X, O, X, X, X, O, O, O, X, X, O, O, O, O, X, O, O, O };
【深度学习神经网络】--卷积神经网络 CNN与LeNet5详解(可训练参数量、计算量、连接数的计算+项目实战)
TU商的博客
10-25 2305
原文链接：https://blog.csdn.net/qq_37555071/article/details/107629340。
关于LeNet-5卷积神经网络 S2层与C3层连接的参数计算的思考？？？
saw009的博客
06-06 9932
关于LeNet-5卷积神经网络 S2层与C3层连接的参数计算的思考？？？ 首先图1是LeNet-5的整体网络结构图 图1 LeNet-5结构 该神经网络共有7层（不计输入层），输入图像大小为32×32。 层编号特点：英文字母+数字 英文字母代表以下一种： C→卷积层、S→下采样层（池化）、F→全连接层 ...
深度学习--LeNet5参数理解
heroacool的专栏
02-28 1550
http://blog.csdn.net/qiaofangjie/article/details/16826849
lenet5卷积神经网络过程_卷积神经网络 LeNet-5各层参数详解
weixin_39915820的博客
12-21 1006
一. 理解卷积和子采样卷积过程：用一个可训练的滤波器fx去卷积一个输入的图像(第一阶段是输入的图像，后面的阶段就是卷积特征map)，然后加一个偏置bx，得到卷积层Cx;子采样过程：邻域四个像素求和变为一个像素，然后通过标量W加权，再增加偏置b，然后通过一个sigmoid激活函数，产生一个缩小四倍的特征映射图Sx+1二. 理解用卷积代替全连接三. 通过基本的神经元模型理解可训练参数与连接数四. 各层...
LeNet5
小帽哥的博客
08-23 198
import torch.nn as nn class LeNet5(nn.Module): def __init__(self): super(LeNet5,self).__init__() self.conv1 = nn.Sequential( nn.Conv2d(1,6,5,1,2) , nn.ReLU() , nn.MaxPool2d(2,2) ) self.conv2 = nn.Sequential( nn.Conv2d(6,.
(Tensorflow之十一）cnn卷积神经网络LeNet-5模型以及卷积核的计算
abiggg的博客
01-11 1268
一、基本结构二、层次功能2.1 卷积层(filter)（1）卷积层主要是用于局部特征的提取。可以这么简单的理解：图像是由一个个像素点组成的，倘若以每个像素点进行分析，则一方面运算量较大，另一方面，容易陷于过拟合，无法很好的进行预测分析；若将图像分成一个个小块进行分析，则可以获得一些简单的局部特征，不仅可以降低运算量，同时也可避免过拟合；而这一个个小块，我们称之过滤器filter（或感受野）,一般过...
深度学习入门——LeNet5模型计算
qingtian_111的博客
04-06 2280
LeNet5 LeNet-5是一个简单地卷积神经网络，可以通过LeNet-5模型来实现MNIST手写体的识别。 LeNet-5模型大致上有两层卷积层，两层池化层，两层全连接层。 操作流程： 1）输入层：输入一张图像（手写体识别的图像一般是黑白的，图像只有单通道），对这张图片先进行数据预处理，使图片的尺寸统一为32x32大小（当然其他大小也可，但图片尺寸不可过大或过小，导致卷积核无法完全提取图像特...
LeNet论文阅读：LeNet结构以及参数个数计算
silent56_th的博客
12-04 1万+
本文是对Yann Lecun大神的经典论文“Gradient-Based Learning Applied to Document Recognition”的阅读笔记之一，主要介绍LeNet的结构以及参数个数的计算，上一篇博客介绍的CNN设计原理。作者才疏学浅，还望指教。LeNet-5 引用自原论文“Gradient-Based Learning Applied to Document Reco
以LeNet为例分析CNN中的参数量
Cheese_pop的博客
12-15 2077
CNN最重要的两点：局部连接和权值共享 局部连接：神经元和上层部分神经元相连接 权值共享：基于局部连接，在每个神经元和上层部分神经元之间权值是共享的，也就是说对于一个神经元，和它相连的所有上层神经元之间的权值都是一致的，这样可以大大减少参数量。对于在feature_map中的理解：对于一个feature_map只需要训练一种kernel。 首先，对于LeNet整体上介绍一下： ...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值