一文彻底搞懂CNN - 手写数字识别（LeNet-5）

最新推荐文章于 2025-04-03 22:30:24 发布
最新推荐文章于 2025-04-03 22:30:24 发布
阅读量1.9k 收藏 14
点赞数 21
文章标签： cnn 人工智能 神经网络 深度学习 大语言模型 机器学习 大模型
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/2401_85377976/article/details/141561500
版权

LeNet-5是Yann LeCun在1998年设计的用于手写数字识别的卷积神经网络，是深度学习领域中的早期重要里程碑之一。它是第一个成功应用于手写数字识别的卷积神经网络，标志着深度学习在计算机视觉领域的初步应用。

MNIST数据集

LeNet-5以其简洁而有效的结构，成为了早期卷积神经网络中最具代表性之一。它成功奠定了卷积神经网络在计算机视觉领域的地位。

LeNet-5

一、CNN奠基论文

在深度学习领域，卷积神经网络（CNN）的奠基之作非Yann LeCun与Yoshua Bengio（花书《深度学习》作者之一）等人所著的《Gradient-Based Learning Applied to Document Recognition》莫属。

人工智能三巨头

该论文深入解析了LeNet网络架构，其在手写体识别上的突破性成就，为CNN的后续发展奠定了坚不可摧的基石。

LeNet-5

首先，论文介绍了传统模式识别方法在处理复杂图像数据时面临的挑战，特别是手工设计特征提取器的局限性。

  • 传统方法局限性：传统模式识别方法依赖于手工设计的特征提取器，这些方法在处理复杂图像数据时存在局限性，如无法有效应对图像中的平移、形变和扭曲等变化。

  • 全连接网络的不足：全连接网络虽然可以作为分类器，但在处理图像数据时存在两个问题：一是参数过多，导致训练困难；二是忽略了输入数据的拓扑结构（如图像的空间相关性）。

传统模式识别方法

随后，作者提出了使用多层神经网络（特别是卷积神经网络）来解决这些问题，因为这些网络能够从大量数据中学习复杂的、高维的、非线性的映射。

  • 局部感受野：CNN通过局部感受野机制，每个神经元只连接输入数据的一个局部区域，这有助于提取图像的局部特征。

  • 权值共享：同一特征图中的所有神经元共享相同的权值，这使得网络能够检测图像中不同位置的相同特征，从而实现位移不变性。

  • 下采样（池化）：通过池化操作降低特征图的维度，减少计算量，并增强模型对形变的鲁棒性。

CNN识别方法

二、LeNet-5网络结构

**LeNet-5是论文中提出的经典卷积神经网络结构，主要由两个卷积层、两个池化层、两个全连接层和一个输出层组成，用于手写数字识别。**其结构主要包括以下几个部分：

LeNet-5

  1. 输入层：接收归一化大小的字符图像，通常图像中的字符位于中心位置。

  2. 卷积层（C1）：

  • 使用多个卷积核（6@28*28）对输入图像进行卷积操作，每个卷积核对应一个特征图。

  • 每个特征图的神经元通过局部感受野连接输入图像的一个局部区域，并共享相同的权值。

  1. 池化层（S2）：

  • 对C1层的特征图进行下采样操作（6@14*14），通常采用最大池化或平均池化。

  • 减少特征图的维度，降低计算量，并增强模型的鲁棒性。

  1. 第二个卷积层（C3）：

  • 对S2层的输出进行进一步的卷积操作（16@10*10），提取更高级别的特征。

  • C3层的特征图与S2层的特征图之间可能存在复杂的连接模式，具体取决于网络设计。

  1. 第二个池化层（S4）：
  • 对C3层的特征图进行下采样操作（16@5*5），进一步减少特征图的维度。
  1. 全连接层（C5）：

  • 将S4层的输出展平为一维向量，并连接到全连接层。

  • 全连接层中的每个神经元都与前一层的所有神经元相连。

  1. 输出层：

  • 全连接层的输出连接到输出层，输出分类结果。

  • 对于手写体识别任务，输出层通常包含与类别数相等的神经元，每个神经元对应一个类别的概率。

三、LeNet-5模型训练__

LeNet-5模型训练： 论文深入探讨了利用梯度下降法，特别是结合反向传播算法，来训练LeNet-5网络模型。

该过程通过计算损失函数对网络参数的梯度，随后沿梯度的负方向迭代更新参数，使网络逐步优化，从而精准学习从输入图像到输出类别的复杂映射关系。

模型训练

反向传播（Back Propagation）： 反向传播算法利用链式法则，通过从输出层向输入层逐层计算误差梯度，高效求解神经网络参数的偏导数，以实现网络参数的优化和损失函数的最小化。

反向传播

损失函数（Loss Function）： 用于衡量模型预测值与真实值之间的差距。损失函数越小，模型的预测性能就越好。

损失函数

梯度下降（Gradient Descent）： 从一个初始点出发，沿着损失函数的负梯度方向不断更新参数，直到达到一个局部最小值或者全局最小值。

梯度下降

随机梯度下降（SGD）： 随机梯度下降在每次迭代中仅随机选择一个样本来计算损失函数的梯度，并根据这个梯度来更新模型的一个或多个参数。

随机梯度下降

批量梯度下降（BGD）：与随机梯度下降不同， 在每次迭代中，批量梯度下降使用整个数据集来计算损失函数的梯度，并根据这个梯度来更新模型的所有参数。

批量梯度下降

如何学习AI大模型？

大模型时代，火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业？”“谁的饭碗又将不保了？”等问题热议不断。

不如成为「掌握AI工具的技术人」，毕竟AI时代，谁先尝试，谁就能占得先机！

但是LLM相关的内容很多，现在网上的老课程老教材关于LLM又太少。所以现在小白入门就只能靠自学，学习成本和门槛很高

针对所有自学遇到困难的同学们，我帮大家系统梳理大模型学习脉络，将这份 LLM大模型资料 分享出来：包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴，可以 扫描下方二维码领取🆓↓↓↓

👉[CSDN大礼包🎁：全网最全《LLM大模型入门+进阶学习资源包》免费分享（安全链接，放心点击）]()👈

学习路线

在这里插入图片描述

第一阶段： 从大模型系统设计入手，讲解大模型的主要方法；

第二阶段： 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用；

第三阶段： 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统；

第四阶段： 大模型知识库应用开发以LangChain框架为例，构建物流行业咨询智能问答系统；

第五阶段： 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；

第六阶段： 以SD多模态大模型为主，搭建了文生图小程序案例；

第七阶段： 以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。

在这里插入图片描述

👉学会后的收获：👈

• 基于大模型全栈工程实现（前端、后端、产品经理、设计、数据分析等），通过这门课可获得不同能力；

• 能够利用大模型解决相关实际项目需求： 大数据时代，越来越多的企业和机构需要处理海量数据，利用大模型技术可以更好地处理这些数据，提高数据分析和决策的准确性。因此，掌握大模型应用开发技能，可以让程序员更好地应对实际项目需求；

• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；

• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。

在这里插入图片描述

1.AI大模型学习路线图
2.100套AI大模型商业化落地方案
3.100集大模型视频教程
4.200本大模型PDF书籍
5.LLM面试题合集
6.AI产品经理资源合集

👉获取方式：
😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓

一文读懂CNN网络（分类网络）的前世今生（Lenet,VGG, networ in network,Googlenet, resnet，Mobilenets网络的核心贡献）
weixin_38410551的博客
01-15 527
Lenet网络： 结构：它是一个7层的卷积层+全连接层这样结构的一个网络。 影响：它可以用来识别手写数字，效果还可以。 输入：3232的输入图片尺寸。 输出： 110的节点。 结构分析：卷积-——池化——卷积——池化——卷积——全连接层——全连接层 卷积核的大小：都是55的卷积核。 影响：（1）后续的Alexnet，Googlenet，VGG都沿用了这种卷积+全连接层用来进行图像分类。 （2）首个......
[Python图像识别] 五十.Keras构建AlexNet和CNN实现自定义数据集分类详解
杨秀璋的专栏
04-10 6290
该系列文章是讲解Python OpenCV图像处理知识，前期主要讲解图像入门、OpenCV基础用法，中期讲解图像处理的各种算法，后期结合深度学习研究图像识别、图像分类应用。上一篇文章分享了生成对抗网络GAN的基础知识，这篇文章将详细讲解如何利用Keras构建AlexNet和CNN模型，实现自定义数据集的图像分类，并进行详细的对比。希望对您有所帮助！让我们开始吧，且看且珍惜。
LeNet-5 手写数字识别
gdz0007的博客
12-17 1860
LeNet-5出自论文Gradient-Based Learning Applied to Document Recognition，1998年由Yann LeCun提出，是一种用于手写体字符识别的非常高效的卷积神经网络。MNIST 具有50000个训练数据10000个测试数据图像大小为28*2810类使用Sigmoid激活函数。
CNN之手写数字识别（Handwriting Recognition）
Remoa的休闲茶馆
02-27 7443
CNN之手写数字识别（Handwriting Recognition） 1、常用的包； 2、常见概念； 3、手写数字识别器实现； 3.1 数据准备； 3.2 构建网络； 3.3 运行模型； 3.4 测试模型； 3.5 查看卷积核与特征图
【深度学习】CNN简述
最新发布
qq_74225552的博客
04-03 1601
本文简要总结卷积神经网络（CNN）的结构特性与理解层面要点。结构上，典型CNN由含特定数量卷积层和池化层的卷积块堆叠，后接全连接层组成。通过局部连接、权重共享等设计，解决全连接神经网络（FNN）参数冗余和特征提取难的问题。理解层面，CNN通过多层结构从原始像素数据逐步学习不同层次特征。
CNN 手写数字识别
weixin_30668887的博客
07-21 331
1. 知识点准备 在了解 CNN 网络神经之前有两个概念要理解，第一是二维图像上卷积的概念，第二是 pooling 的概念。 a. 卷积 关于卷积的概念和细节可以参考这里,卷积运算有两个非常重要特性，以下面这个一维的卷积为例子： 第一个特性是稀疏连接。可以看到， layer m 上的每一个节点都只与 layer m-1 对应区域的三个节点相连接。这个局部范围也叫感受野。第二个特性...
CNN手写数字识别
Foeverlikeluo的博客
12-12 1481
②预处理数据：由于pytorch读取数据集MNIST中的图像时默认使用python中的PIL图像（P：8像素，I：整型，L：黑白），所以我们首先需要把PIL图像转化成更适合pytorch计算使用的图像张量，其次需要把原始0~255之间的像素值通过归一化处理成0~1之间的值，这两步预处理的目的都是欲使数据在神经网络中运算更高效。·创建Optimizer时，需要为其提供一些需要迭代的参数进行迭代，还可以指定一些可选的，特定的，用于优化的参数，如学习率，权重衰减等参数。
CNN实现手写体数字的识别
03-21
一个简单的CNN程序，实现对十种手写体数字的识别
神经网络算法 - 一文搞懂CNN（卷积神经网络）
weixin_53880910的博客
08-05 2348
本文将从CNN解决了什么问题、人类的视觉原理、CNN的基本原理、典型的CNN及实际应用四个方面，带您一文搞懂卷积神经网络CNN。
CV预测：快速使用LeNet-5卷积神经网络
AI相关从业分享
06-13 574
LeNet网络逐层结构:图片输入:32x32x1第一层:卷积核(6个，5x5x1，步长:1)，输出:28x28x6最大池化层:卷积核(2x2，步长:2)，输出:14x14x6第二层:卷积核(16个，5x5x6，步长:1)，输出:10x10x16最大池化层:卷积核(2x2，步长:2)，输出:5x5x16拉直后输出:5 x5x16=400全连接层1:120个节点全连接层2:84个节点输出层:10个节点注:在进行卷积运算时，没有对输入进行填充。
一文读懂卷积神经网络（CNN）
dyna_lidan的博客
09-13 4677
卷积神经网络—起源 1981年，Hubel和Wiesel对猫的视觉皮层细胞研究表明：哺乳动物对外界的视觉感知信息采用了局部感知策略，为此Hubel和Wiesel获得了诺贝尔生物理和医学奖。 视觉的全局感知会导致记忆分散和模糊。局部感知则会增强记忆。那么在神经网络构建，局部连接就会减少权重，降低训练难度。全局感知和局部感知的结构示意图如下: 受生物视觉感知的启发，Yann LeCun改进了...
基于cnn的手写识别数据集
03-10
基于cnn的手写识别，包含对应的数据库，直接在matlab中运行即可！
CNN实现手写数字识别
pengxiang1998的博客
04-29 7389
手写数字识别一致是一个机器学习里面常见的案例，今天通过CNN来实现一个手写数字识别来介绍一个机器学习的流程。 数据预处理 from keras import datasets (x_train, y_train), (x_test, y_test) = datasets.mnist.load_data() x_train = x_train.reshape((60000, 28, 28, 1)) # 归一化，0-255不太方便神经网络进行计算，因此将范围缩小到0—1 x_train = x_train.as
CNN实现手写数字识别（Pytorch）
热门推荐
weixin_46599926的博客
05-04 1万+
CNN（卷积神经网络）主要包括卷积层、池化层和全连接层。输入数据经过多个卷积层和池化层提取图片信息后，最后经过若干个全连接层获得最终的输出。以下基于Pytorch框架搭建一个CNN神经网络实现手写数字识别。
LeNet-5
weixin_30344995的博客
11-07 104
输入图像为32*32 C1：卷积层，滤波器6组5*5，输出28*28 *6 。训练参数（25个unit，1个偏置）。连接数156*28*28。神经元：28*28*6 S2：下采样，一个滤波器2*2,，输出14*14*6。参数6*2=12，（一个权重，一个偏置）。连接数：6*5*14*14=5880。14*14个神经元，过滤器处理一样 C3：卷积，60个滤波器，输出...
cnn实现手写数字识别
u014401052的博客
10-25 2575
最近在学习卷积神经网络（cnn）和tensorflow，就把以前在kaggle上用其他方法做过的手写识别的项目拿过来练练手。 下面是数据来源的链接： https://www.kaggle.com/c/digit-recognizer/data 首先我们先读入数据： train=pd.read_csv("/Users/zhouhonghao/Desktop/train.csv",header=0) 其
一文彻底搞懂python面向对象编程
07-07
Python面向对象编程（Object-Oriented Programming，简称OOP）是一种程序设计方法，它将数据和操作数据的方法组合成对象，通过定义类（class）来创建对象。下面是一些概念和原则，可以帮助你更好地理解Python面向对象编程。 1. 类和对象： - 类是一种抽象的数据类型，它定义了对象的属性和方法。 - 对象是类的实例，它具有类定义的属性和方法。 2. 属性和方法： - 属性是对象的数据，可以是整数、字符串、列表等。 - 方法是对象的行为，可以是函数或过程。 3. 封装： - 封装是将数据和对数据的操作封装在一起，以创建一个独立的实体。 - 使用类来封装数据和方法，可以隐藏实现细节，提高代码的可读性和可维护性。 4. 继承： - 继承是一种机制，允许一个类继承另一个类的属性和方法。 - 子类可以重用父类的代码，并且可以添加新的属性和方法。 5. 多态： - 多态是指同一个方法可以在不同的类中具有不同的实现方式。 - 多态可以提高代码的灵活性和可扩展性。 下面是一个简单的例子，展示了如何定义一个类、创建对象并调用对象的方法： ```python class Person: def __init__(self, name, age): self.name = name self.age = age def say_hello(self): print(f"Hello, my name is {self.name} and I'm {self.age} years old.") # 创建对象 person = Person("Alice", 25) # 调用对象的方法 person.say_hello() ``` 这个例子定义了一个名为`Person`的类，它有两个属性（`name`和`age`）和一个方法（`say_hello`）。我们通过`Person`类创建了一个名为`person`的对象，并调用了它的`say_hello`方法。 希望这个简单的例子能帮助你更好地理解Python面向对象编程。如果你有其他问题，请随时提问。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值