LeNet-5 Pytorch复现

最新推荐文章于 2023-03-02 11:23:05 发布
VIP文章 最新推荐文章于 2023-03-02 11:23:05 发布
阅读量414 收藏 2
点赞数 1
分类专栏： 卷积神经网络专题
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_45680994/article/details/109010628
版权

LeNet-5 Pytorch复现

本文将简要介绍LeNet-5的网络结构并使用pytorch进行网络结构的复现

LeNet是1998年用来识别手写数字图像的卷积神经网络，它展示了通过梯度下降训练卷积神经网络可以达到手写数字识别在当时最先进的结果。这个奠基性的工作第一次将卷积神经网络推上舞台，为世人所知。

Lenet-5结构如下：在这里插入图片描述

各层信息：
1.第一层C1是一个卷积层
输入图片: 3232
卷积核大小: 55
卷积核种类: 6
输出feature map大小:2828(32-5+1)
神经元数量:28286
可训练参数数量:(55+1)6，(每个卷积核25个权重值w，一个截距值bias;总共6个卷积核)
连接数量:(55+1)628*28

2.第二层S2是一个下采样层(池化层):
输入:2828
采样区域:22
采样方式:4个输入相加，乘以一个可训练参数，再加上一个可训练偏置，结果通过sigmoid。(论文原文是这样描述，但是实际中，我看到一般都是用最大池化)
种类数量：6
输出的feature map大小时:1414(28/2)
神经元数量:14146
连接数:(22+1)614*14

3.第三层C3也是一个卷积层
输入:S2中所有6个或者几个特征的map组合，这个组合并无太大实际意义，受限于当时的硬件水平，才这样组合
卷积核大小:55
卷积核种类:16
输出feature map大小:1010
将S2中所有特征图为输入。此时可训练参数:6*(325+1)+6(425+1)+3(425+1)+(25

最低0.47元/天 解锁文章
haobo97
关注
  • 1
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
Python复现现代CNN的奠基者：LeNet5经典网络
Quintin
03-21 1873
【代码】Python复现LeNet-5框架代码。
LeNet-5:LeNet-5的PyTorch实施和实时可视化
05-04
LeNet-5 这实现了略微修改的LeNet-5 [LeCun et al。，1998a]，并在上达到了约99％的准确度。 设置 使用以下命令安装所有依赖项 $ pip install -r requirements.txt 用法 启动visdom服务器进行可视化 $ python -m visdom.server 开始训练程序 $ python run.py 请参阅时期火车损耗实时图表。 经过训练的模型将作为ONNX导出到lenet.onnx 。 可以使用查看lenet.onnx文件 参考 [ ] Y. LeCun，L。Bottou，Y。Bengio和P. Haffner。 “基于梯度的学习应用于文档识别。” IEEE会议论文集，86（11）：2278-2324，1998年11月。
CNN学习系列：千里之行始于足下——使用PyTorch复现经典LeNet网络
路双宁的博客
03-12 256
导语： 1998年，Lecun等人在论文Gradient-Based Learning Applied to Document Recognition里第一次定义了CNN网络结构，该网络被称为LeNet，成为CNN的开山鼻祖。 该模型有1个输入层，2个卷积层，2个池化层，2个全连接层，1个输出层。此处所使用的的数据集，即是Lecun当年用到的数据集，MNIST。 这里有一个手写数字识别的可视化网站，借助它能直观地分析LeNet运行的过程。 另附：卷积网络的可视化解释 卷积 可参考我之前写的计算机视觉（北邮
[tensorflow2笔记九] 使用keras复现经典卷积网络LeNet、AlexNet、VGGNet、InceptionNet、ResNet
滨哥v5的博客
02-27 298
使用keras复现经典网络LeNet、AlexNet、VGGNet、InceptionNet、ResNet
深度学习基础：9.复现经典网络：LeNet5与AlexNet
兴趣使然的创作者
07-14 902
1998年， LeNet5 被LeCun等人在论文《Gradient-Based Learning Applied to Document Recognition》中正式提出，它被认为是现代卷积神经网络的奠基者。网络结构图： 使用模型可视化工具可以模拟输入，查看模型信息。 输出结果如图：AlexNet诞生于有“视觉界奥林匹克”之称的大规模视觉识别挑战比赛ILSVRC（ImageNet Large Scale Visual Recognition Challenge）。AlexNet出现之前，最好成绩一直由
我复现的第一个神经网络: LeNet
09-07 1814
学习深度学习已经有小一年的时间，看了很多视频和书本内容，学习了很多代码，可始终感觉认知不够扎实。结合李沐老师的视频课程，我决定在本博客中介绍下复现LeNet的过程。代码基于Pycharm2021平台，选用python3.8版本+Pytorch1.12.1+cu116。基本上把各个包的版本都刷到最新版本，以方便后续的网络升级和向后兼容。
Keras 实战: 复现 LeNet
左手coding，右手cooking
07-05 555
keras复现LeNet 具体结构如下： conv + subsampling + conv + subsampling + fully connected 具体解释下LeNet-5结构, 一共是7层，除去输入层实际上是7个feature map。 1:Input 32 * 32 * 1 的灰度图像，输入前做归一化处理 2:C1卷积层 输入：32 * 32 * 1 卷积核大小为 5,步长 1 卷...
深度学习pytorch复现——模型篇——LeNet
weixin_44049693的博客
09-10 960
title: LeNet mathjax: true date: 2020-09-08 22:26:45 tags: [pytorch, 深度学习,LeNet，CNN ] 有问题请到博客联系 LeNet的介绍及pytorch复现 模型简介 我们常说的LeNet应该是指1998年 LeCun 发表的论文中的LeNet-5，它是CNN卷积神经网络的开山之作，至此之后卷积神经网络遍地开花，各种基于卷积神经网络的巧妙网络结构不断地被创造出来并取得了良好的效果。 输入 输入均为32 *32pixel的黑白色手.
卷积神经网络-LeNet复现
weixin_54659638的博客
02-11 261
卷积神经网络LeNet复现，不使用
pytorch-复现经典深度学习模型-LeNet5
白水空空
03-02 429
在模型中必须要定义forward函数，backward函数（用来计算梯度）会被autograd自动创建。可以在forward函数中使用任何针对 Tensor 的操作。torch.nn只支持小批量输入。整个torch.nn包都只支持小批量样本，而不支持单个样本。例如，nn.Conv2d接受一个4维的张量，每一维分别是sSamples * nChannels * Height * Width（样本数*通道数*高*宽）。如果你有单个样本，只需使用来添加其它的维数。返回可被学习的参数（权重）列表和值。
lenet5手写字体识别
10-23
LeNet5对应的手写字体识别，无监督学习的方法去pre-training（预训练）stacked CNN的每层网络，然后用BP算法对整个网络进行fine-tuning（微调），并且上一层的输出作为下一层的输入。
利用pytorch搭建lenet网络，并利用mnist数据集进行训练测试
01-06
最近在学习pytorch，手工复现了LeNet网络，并附源码如下，欢迎大家留言交流 import torch import torch.nn as nn import torch.nn.functional as F import torch.optim as optim from torchvision import datasets, transforms class LeNet(nn.Module): def __init__(self): super(LeNet,self).__init__() self.conv1 = nn.Conv2d(1
LeNet-5pytorch实战.pdf
06-05
总结了卷积神经网络LeNet-5的网络结构以及相关原理，完成了Pytorch上的代码实现，并对Minist、CIFAR10数据集进行了训练和测试
从零复现transformer-基于pytorch复现内含数据集.zip
最新发布
04-16
从零复现transformer-基于pytorch复现内含数据集 本项目是一个基于PyTorch的Transformer模型的复现项目，旨在帮助用户从零开始理解和实现Transformer模型。项目包含数据集和预训练模型，方便用户快速部署和使用。 ...
LeNet-5.py
09-03
卷积神经网络LeNet-5的pytorch代码实现，关于详细内容，可以参考博客：https://blog.csdn.net/didi_ya/article/details/108317958
LeNet-5识别MNIST手写数字数据集（PyTorch）
10-14
卷积神经网络实战——LeNet-5(PyTorch)完整源代码，LeNet-5识别MNIST手写数字数据集（PyTorch）
RCNN简介
weixin_45680994的博客
10-28 3051
RCNN（Regions with CNN features）是在2014年提出的一种目标检测算法，RCNN是将CNN方法应用到目标检测问题上的一个里程碑，借助CNN良好的特征提取和分类的性能，通过REgionPropo方法实现目标检测。 RCNN的特点与流程总结 一：速度 经典的目标检测算法使用滑动窗法依次判断所有可能的区域。本文则预先提取一系列较可能是物体的候选区域，之后仅在这些候选区域上提取特征，进行判断。 二：训练集 经典的目标检测算法在区域中提取人工设定的特征（Haar，HOG）。本文则需要训练深
卷积层、池化层和全连接层
weixin_45680994的博客
10-04 2482
卷积层（Convolution） 什么是卷积，如下图所示，卷积操作是用卷积核，按照一定的步长，在一张图片上规律性的移动。卷积核的每个单元有权重，在卷积核移动的过程中将图片上的像素和卷积核的对应权重相乘，最后将所有乘积相加得到一个输出。 作用和意义： ①局部感知： 在传统神经网络中每个神经元都要与图片上每个像素相连接，这样的话就会造成权重的数量巨大造成网络难以训练。而在含有卷积层的的神经网络中每个神经元的权重个数都是卷积核的大小，这样就相当于没有神经元只与对应图片部分的像素相连接。这样就极大的减少了权重的数量
DenseNet Pytorch实现
weixin_45680994的博客
10-11 1342
DenseNet网络实现 DenseNet和ResNet不同在于ResNet是跨层求和，而DenseNet是跨层将特征在通道维度进行拼接，下图一是ResNet，二是DenseNet。 因为实在通道维度进行特征的拼接，所以底层的输出会保留进入后面的曾，这样能更好的保证梯度的传播，同时能够使用低维的特征和高维的特征进行联合训练，能够得到更好的结果。 DenseNet主要有Dense block组成，使用pytorch实现如下 def conv_block(in_channel, out_channel):
pytorch实现lenet-5
07-28
你可以使用PyTorch来实现LeNet-5模型，以下是一个简单的示例代码： ```python import torch import torch.nn as nn import torch.nn.functional as F class LeNet5(nn.Module): def __init__(self): super(LeNet5, self).__init__() self.conv1 = nn.Conv2d(1, 6, kernel_size=5) self.conv2 = nn.Conv2d(6, 16, kernel_size=5) self.fc1 = nn.Linear(16*4*4, 120) self.fc2 = nn.Linear(120, 84) self.fc3 = nn.Linear(84, 10) def forward(self, x): x = F.relu(self.conv1(x)) x = F.max_pool2d(x, 2) x = F.relu(self.conv2(x)) x = F.max_pool2d(x, 2) x = x.view(-1, 16*4*4) x = F.relu(self.fc1(x)) x = F.relu(self.fc2(x)) x = self.fc3(x) return x # 创建LeNet-5模型实例 model = LeNet5() # 打印模型结构 print(model) ``` 这段代码定义了一个LeNet5类，继承自`nn.Module`，并在构造函数`__init__`中定义了LeNet-5的网络结构。`forward`函数定义了数据在网络中的前向传播路径。 你可以根据自己的数据和任务需求，进一步扩展和训练该模型。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值