论文精读 - LeNet-5 -《Gradient-Based Learning Applied to Document Recognition》

已于 2022-04-30 13:47:19 修改
阅读量806 收藏 1
点赞数 1
分类专栏： CNN 文章标签： 计算机视觉 深度学习 神经网络
于 2022-04-30 13:44:56 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/hemengfan1/article/details/124511807
版权

论文精读 - LeNet-5 -《Gradient-Based Learning Applied to Document Recognition》

在这里插入图片描述

全连接网络存在的一些问题：

1.

典型图像很大，通常有几百个像素。
全连接网络的第一个隐藏层中有一百个神经元。
全连接网络将已经包含数万个权重(几百x一百)。
增加了系统的容量，需要更大的训练集。
存储如此多的权重的内存需求会排除某些硬件实现。
用于图像应用的非结构化网络的主要缺陷是对输入的平移或局部失真没有内置的不变性。
学习这些权重配置需要大量的训练实例来覆盖可能的变化空间。
卷积网络中 平移不变性 是通过 权重共享 而自动获得的。

2.

全连接网络完全忽略了输入的拓扑信息。
图像具有很强的二维局部结构，空间上邻近的像素高度相关。
卷积网络通过隐藏单元的 局部感受野 来提取局部特征。

卷积网络结合了三种架构思想，以确保一定程度的平移、缩放和失真不变性。

1.局部感受野

通过局部感受野，神经元可以提取出基本的视觉特征，例如定向边缘、端点、角。
这些基本的视觉特征被随

最低0.47元/天 解锁文章
hemengfan1
关注
专栏目录
LeNet-5: Gradient-Based Learning Applied to Document Recognitionm
Indus_permanent的博客
05-02 755
参考网址：1、https://blog.csdn.net/zouxy09/article/details/87815432、https://blog.csdn.net/kaido0/article/details/531616843、https://blog.csdn.net/qianqing13579/article/details/71076261LeNet-5一种典型的用来识别数字的卷积网络...
论文学习一之Gradient-Based Learning Applied to Document Recognition
墨夜之枫的博客
04-01 2370
论文学习一之Gradient-Based Learning Applied to Document Recognition 摘要—— 使用BP算法多层神经网络训练构成种个成功的基于梯度学习技术的最佳案例。提供一个合适的网络架构，基于梯度学习算法就能将其用于合成复杂的决策面以便将高维模式（例如手写字符）区分归类，并进行最小预处理。本文综述了各种方法对手写字符特征识别，并将其与标准手写数字识别任务进行...
Gradient-Based Learning Applied to Document Recognition
02-25
该文档对比了现有的字符识别的方法，本文将CNN应用于字符识别中，通过实验验证了其性能。
论文笔记：Gradient-Based Learning Applied to Document Recognition
热门推荐
程序猿视角
04-24 1万+
MNIST手写体模型 LeNet 经典论文阅读笔记：Gradient-Based Learning Applied to Document Recognition。 用BP算法训练多层神经网络，是梯度学习技术的一个成功的案例。给出一个合适的网络架构，梯度学习算法可以综合处一个复杂的决策面，实现对于类似手写体字符这样高维模式的分类。本文回顾了各种不同的手写体识别方法，并给基于标准任务比较这些算法。卷积神经网络，专门为处理变化较大的二维图形而设计，显示出超越所有其他技术的能力。
论文复现--基于LeNet网络结构的数字识别
最新发布
weixin_74085818的博客
09-13 847
(LeNet)：卷积层：两层池化层：两层全连接层：3层。
LeNet-5 卷积神经网络论文笔记-Gradient-Based Learning Applied to Document Recognition第Ⅰ、Ⅱ部分 笔记
Sail的博客
10-24 4176
LeNet-5 卷积神经网络论文笔记-Gradient-Based Learning Applied to Document Recognition第Ⅰ、Ⅱ部分 笔记 文章目录LeNet-5 卷积神经网络论文笔记-Gradient-Based Learning Applied to Document Recognition第Ⅰ、Ⅱ部分 笔记文章介绍理论基础及现状损失函数，聚焦在模型在训练集和测试集上的表现差异。论文中提到的方法，正则化 regularizationB.Gradient-Based Learn
CNN-经典论文阅读-(1998, LeNet-5)Gradient-Based Learning Applied to Document Recognition
qq_34621022的博客
03-13 2065
CNN-经典论文阅读-(1998, LeNet-5)Gradient-Based Learning Applied to Document Recognition 这是我阅读的第一篇经典论文，本来应该早点阅读这篇经典之作的，但是每每打开看到长达48页的页码提示，都望而止步。所有的问题都需要正视，经典之所以被人称赞，一定有它的过人之处，所以这一次鼓足勇气，阅读全文，整理出一些摘要，是给自己的一个交代...
Gradient-Based Learning Applied to Document Recognition.pdf
04-17
Gradient-Based Learning Applied to Document Recognition.pdf 本文主要讨论了基于梯度的学习算法在文档识别中的应用，特别是基于卷积神经网络（Convolutional Neural Networks，CNN）和图形变换网络（Graph ...
lenet5——Gradient-Based Learning Applied.pdf
01-18
这篇文章是关于深度学习技术在文档识别领域应用的开创性论文，由Yann LeCun等人撰写，重点介绍了名为LeNet-5的卷积神经网络（CNN）模型，该模型在手写字符识别任务上表现卓越。文章详细阐述了基于梯度的学习方法以及...
Gradient-based learning applied to document recognition.pdf
09-24
《基于梯度的学习在文档识别中的应用》这篇论文是由Yann LeCun等人撰写的重要文档，它介绍了深度学习中具有里程碑意义的卷积神经网络（CNN）模型——LeNet。这篇论文被发表于1998年的《IEEE》上，是研究机器学习和...
论文要点总结：Gradient-Based Learning Applied to Document Recognition（一）
Harvey_Hawk的博客
07-23 3445
论文阅读：Gradient-Based Learning Applied to Document Recognition（一）（I） II. 用于孤立字符检测的卷积神经网络
论文要点总结：Gradient-Based Learning Applied to Document Recognition（二）
Harvey_Hawk的博客
08-06 1299
论文要点总结：Gradient-Based Learning Applied to Document Recognition（一） III. 结果和与其他方法的对比 虽然识别单个数字只是设计一个实际识别系统所涉及的众多问题之一，但它是比较形状识别方法的一个很好的基准。尽管许多现有方法是将手工特征提取器与可训练分类器结合，本文集中研究直接对尺寸归一化图像进行操作的自适应方法。 A. 数据集：MNIST（Modified NIST） NIST数据集中，训练集中的数字要比测试集中的更加清晰、易于识别。将N
经典论文研读：LeNet —— Gradient-Based Learning Applied to Document Recognition
程序猿视角
04-03 3131
本来想从现代网络建模技术的角度写一篇 LeNet 模型的“批判”杂文，仔细阅读原文后，感觉到经典的伟大。遂写此文，向经典致敬!
Gradient-Based Learning Applied to Document Recognition （LeNet） 论文阅读笔记
qingyuan512的博客
09-16 282
Gradient-Based Learning Applied to Document Recognition （LeNet） 论文阅读笔记论文中的相关问题 论文中的相关问题 1.为什么卷积神经网络具有平移不变性 原文如下： Convolutional networks combine three architectural ideas to ensure some degree of shift, scale, and distortion in-variance: local receptive f
01 LeNet-5论文笔记-Gradient-Based Learning Applied to Document Recognition
qq_43252908的博客
08-14 593
自从 早期的模式识别,它已经知道 ,自然数据的可变性和丰 富,无论是语音,符号,或其他类型的模式,使它几乎不可 能建立一个准确的识别系统完全手工。因此,大多数模式识 别系统都是使用自动学习技术和手工制作算法的结合来建立 的。识别单个模式的通常方法是将系统划分为两个主要模 块,如图1所示。 第一模块，称为特征提取器转换输入模式，这样他们可以用 lowdimensional枸量或短字符串的符号(a)可以很容易地匹配 或相比，和(b)是相对不变的对输入模式的转换和扭曲，不改变自 , 己的本质。特征提取器包含了大部
论文阅读笔记（一）：Gradient-Based Learning Applied to Document Recognition ( LeNet )
sunshine_010的博客
04-10 1万+
本文是论文的相关摘要，因为作者的原话最容易理解，所以将精彩语句摘录，帮助快速回忆起文章主要信息。后续会将把论文英文原版语句补充进来，持续更新。 Multilayer neural networks trained with the back-propagation algorithm constitute the best example of a successful gradient-b...
LeCun-98-Gradient-Based Learning Applied to Document Recognition
05-20
### LeCun-98-Gradient-Based Learning Applied to Document Recognition #### 概述 该论文是关于梯度基于学习在文档识别中的应用，是手写体识别领域的一篇经典之作，详细介绍了经典的卷积神经网络（CNN）七层结构...
论文提要“Gradient based Learning Applied to Document Reocognition”
cv_family_z的博客
06-17 2365
1.综述 提出好的模式识别系统多依赖自学习，少依赖手工设计框架。字符识别可以将原图像作为网络输入，代替之前设计的特征。对于文本理解，之前设计的定位分割识别模块可以使用Graph Transformer Networks 代替。下图显示了传统的识别方法： 机器运算速度的提升，大数据和机器学习算法改进改变了上述传统方法。 A. 数据学习 经典方法是基于梯度的学
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值