Mnist手写体识别实验报告

最新推荐文章于 2024-04-09 14:00:00 发布
最新推荐文章于 2024-04-09 14:00:00 发布
阅读量4.3k 收藏 53
点赞数 7
分类专栏： 深度学习 文章标签： 神经网络 python 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_43349479/article/details/120680607
版权

实验（二）

代码段：

# 实验环境：MindSpore-python3.7-aarch64

import os
# os.environ['DEVICE_ID'] = '0'

import mindspore as ms
import mindspore.context as context
import mindspore.dataset.transforms.c_transforms as C
import mindspore.dataset.vision.c_transforms as CV

from mindspore import nn
from mindspore.train import Model
from mindspore.train.callback import LossMonitor

context.set_context(mode=context.GRAPH_MODE, device_target='Ascend') # Ascend, CPU, GPU

data_train = os.path.join("MNIST", 'train') # train set
data_test = os.path.join("MNIST", 'test') # test set
ds = ms.dataset.MnistDataset(data_train)
print(data_train)

请添加图片描述
以上在华为云上不断报错，而且无法排除错误，于是我参考了网上视频教程，使用keras（基于tensorflow框架）第三方库在本地电脑上运行：

# 准备工作：

pip install keras
pip install tensorflow

第一次代码：

# 实验环境：pycharm, python 3.8
# 框架：tensorflow

from keras.utils import to_categorical
from keras import models, layers, regularizers
from keras.optimizers import RMSprop
from keras.datasets import mnist # 导入数据集
import matplotlib.pyplot as plt

# 加载数据集
(train_images, train_labels), (test_images, test_labels) = mnist.load_data() # 下载数据集
# print(train_images.shape, test_images.shape) # 打印输出形状
# print(train_images[0])
# print(train_labels[0])
# plt.imshow(train_images[0])
# plt.show()

# 将二维数据铺开成一维
train_images = train_images.reshape((60000, 28*28)).astype('float') # 784，输入层有784个神经元
test_images = test_images.reshape((10000, 28*28)).astype('float')
# 标签值编码
train_labels = to_categorical(train_labels)
test_labels = to_categorical(test_labels)
# print(train_labels[0])

# 搭建神经网络
# 输入层28*28个神经元，隐藏层15个神经元，输出层10个神经元（0~9）
network = models.Sequential() # 序列式模型
network.add(layers.Dense(units=15, activation='relu', input_shape=(28*28, ), )) # 隐藏层
# Dense：全连接层
# units：15个神经元
# 激活函数：ReLu（sigmoid和tanh会产生梯度弥散现象，自变量很大时，图像很平缓，梯度下降十分缓慢）
network.add(layers.Dense(units=10, activation='softmax')) # 输出层
# 激活函数选择softmax，输出为概率值

# 训练神经网络
# 编译：确定优化器（学习率/梯度下降步长）和损失函数等
network.compile(optimizer=RMSprop(lr=0.001), loss='categorical_crossentropy', metrics=['accuracy'])
# epochs表示训练多少个回合，batch_size表示每次训练给多大的数据
network.fit(train_images, train_labels, epochs=20, batch_size=128, verbose=2)
# 经过20轮训练，训练集准确率达到80%
# print(network.summary())

# 用模型进行预测
# y_pre = network.predict(test_images[:5])
# print(y_pre, test_labels[:5])
test_loss, test_accuracy = network.evaluate(test_images, test_labels)
print("test_loss: ", test_loss, "          test_accuracy: ", test_accuracy)

加载完数据输出第一张图片预览：
加载数据

对标签值进行编码：
请添加图片描述

神经网络的训练结构：
请添加图片描述

第一次训练集结果：
请添加图片描述

第一次测试集结果：
请添加图片描述

第一次测试输出的结果准确率为89.85%，不过为什么只有313张测试图片？

然后按照教程对模型进行改进：

首先将原来隐藏层的神经元数量增加至128，同时再增加一层神经元数量为32的隐藏层。

第二次代码：

from keras.utils import to_categorical
from keras import models, layers, regularizers
from keras.optimizers import RMSprop
from keras.datasets import mnist # 导入数据集
import matplotlib.pyplot as plt

# 加载数据集
(train_images, train_labels), (test_images, test_labels) = mnist.load_data() # 下载数据集
# print(train_images.shape, test_images.shape) # 打印输出形状
# print(train_images[0])
# print(train_labels[0])
# plt.imshow(train_images[0])
# plt.show()

# 将二维数据铺开成一维
train_images = train_images.reshape((60000, 28*28)).astype('float') # 784，输入层有784个神经元
test_images = test_images.reshape((10000, 28*28)).astype('float')
# 标签值编码
train_labels = to_categorical(train_labels)
test_labels = to_categorical(test_labels)
# print(train_labels[0])

# 搭建神经网络
# 输入层28*28个神经元，隐藏层15个神经元，输出层10个神经元（0~9）
network = models.Sequential() # 序列式模型
network.add(layers.Dense(units=128, activation='relu', input_shape=(28*28, ), )) # 隐藏层
# Dense：全连接层
# units：15个神经元
# 激活函数：ReLu（sigmoid和tanh会产生梯度弥散现象，自变量很大时，图像很平缓，梯度下降十分缓慢）
network.add(layers.Dense(units=32, activation='relu')) # 第二层隐藏层
network.add(layers.Dense(units=10, activation='softmax')) # 输出层
# 激活函数选择softmax，输出为概率值

# 训练神经网络
# 编译：确定优化器（学习率/梯度下降步长）和损失函数等
network.compile(optimizer=RMSprop(lr=0.001), loss='categorical_crossentropy', metrics=['accuracy'])
# epochs表示训练多少个回合，batch_size表示每次训练给多大的数据
network.fit(train_images, train_labels, epochs=20, batch_size=128, verbose=2)
# 经过20轮训练，训练集准确率达到80%
# print(network.summary())

# 用模型进行预测
# y_pre = network.predict(test_images[:5])
# print(y_pre, test_labels[:5])
test_loss, test_accuracy = network.evaluate(test_images, test_labels)
print("test_loss: ", test_loss, "          test_accuracy: ", test_accuracy)

测试结果：
请添加图片描述
相同情况下，训练集准确率提升至97.23%（过拟合），测试集准确率提升至95.91%，同时运行时长也增加了。
为了解决过拟合的问题，在每一层隐藏层都加入正则化和Dropout方法。

第三次代码：

from keras.utils import to_categorical
from keras import models, layers, regularizers
from keras.optimizers import RMSprop
from keras.datasets import mnist # 导入数据集
import matplotlib.pyplot as plt

# 加载数据集
(train_images, train_labels), (test_images, test_labels) = mnist.load_data() # 下载数据集
# print(train_images.shape, test_images.shape) # 打印输出形状
# print(train_images[0])
# print(train_labels[0])
# plt.imshow(train_images[0])
# plt.show()

# 将二维数据铺开成一维
train_images = train_images.reshape((60000, 28*28)).astype('float') # 784，输入层有784个神经元
test_images = test_images.reshape((10000, 28*28)).astype('float')
# 标签值编码
train_labels = to_categorical(train_labels)
test_labels = to_categorical(test_labels)
# print(train_labels[0])

# 搭建神经网络
# 输入层28*28个神经元，隐藏层15个神经元，输出层10个神经元（0~9）
network = models.Sequential() # 序列式模型
network.add(layers.Dense(units=128, activation='relu', input_shape=(28*28, ),
                         kernel_regularizer=regularizers.l1(0.0001))) # 隐藏层
# 正则化消除过拟合问题
# Dense：全连接层
# units：15个神经元
# 激活函数：ReLu（sigmoid和tanh会产生梯度弥散现象，自变量很大时，图像很平缓，梯度下降十分缓慢）
network.add(layers.Dropout(0.01)) # 0.01的概率使神经元丧失功能
network.add(layers.Dense(units=32, activation='relu', 
                         kernel_regularizer=regularizers.l1(0.0001))) # 第二层隐藏层
network.add(layers.Dropout(0.01)) # 0.01的概率使神经元丧失功能
network.add(layers.Dense(units=10, activation='softmax')) # 输出层
# 激活函数选择softmax，输出为概率值

# 训练神经网络
# 编译：确定优化器（学习率/梯度下降步长）和损失函数等
network.compile(optimizer=RMSprop(lr=0.001), loss='categorical_crossentropy', metrics=['accuracy'])
# epochs表示训练多少个回合，batch_size表示每次训练给多大的数据
network.fit(train_images, train_labels, epochs=20, batch_size=128, verbose=2)
# 经过20轮训练，训练集准确率达到80%
# print(network.summary())

# 用模型进行预测
# y_pre = network.predict(test_images[:5])
# print(y_pre, test_labels[:5])
test_loss, test_accuracy = network.evaluate(test_images, test_labels)
print("test_loss: ", test_loss, "          test_accuracy: ", test_accuracy)

现在过拟合现象在大多数情况下消失了：
请添加图片描述
最后再尝试使用简单的卷积神经网络模型：

第四次代码：

from keras.utils import to_categorical
from keras import models, layers, regularizers
from keras.optimizers import RMSprop
from keras.datasets import mnist # 导入数据集
import matplotlib.pyplot as plt

# 加载数据集
(train_images, train_labels), (test_images, test_labels) = mnist.load_data() # 下载数据集
# print(train_images.shape, test_images.shape) # 打印输出形状
# print(train_images[0])
# print(train_labels[0])
# plt.imshow(train_images[0])
# plt.show()

# 将二维数据铺开成一维
# train_images = train_images.reshape((60000, 28*28)).astype('float') # 784，输入层有784个神经元
# test_images = test_images.reshape((10000, 28*28)).astype('float')
# # 标签值编码
# train_labels = to_categorical(train_labels)
# test_labels = to_categorical(test_labels)
# print(train_labels[0])

# # 搭建神经网络
# # 输入层28*28个神经元，隐藏层15个神经元，输出层10个神经元（0~9）
# network = models.Sequential() # 序列式模型
# network.add(layers.Dense(units=128, activation='relu', input_shape=(28*28, ),
#                          kernel_regularizer=regularizers.l1(0.0001))) # 隐藏层
# # 正则化消除过拟合问题
# # Dense：全连接层
# # units：15个神经元
# # 激活函数：ReLu（sigmoid和tanh会产生梯度弥散现象，自变量很大时，图像很平缓，梯度下降十分缓慢）
# network.add(layers.Dropout(0.01)) # 0.01的概率使神经元丧失功能
# network.add(layers.Dense(units=32, activation='relu',
#                          kernel_regularizer=regularizers.l1(0.0001))) # 第二层隐藏层
# network.add(layers.Dropout(0.01)) # 0.01的概率使神经元丧失功能
# network.add(layers.Dense(units=10, activation='softmax')) # 输出层
# # 激活函数选择softmax，输出为概率值

# 尝试使用卷积神经网络
def Lenet():
    network = models.Sequential()
    network.add(layers.Conv2D(filters=6, kernel_size=(3, 3), activation='relu', input_shape=(28, 28, 1)))
    network.add(layers.AveragePooling2D((2, 2)))
    network.add(layers.Conv2D(filters=16, kernel_size=(3, 3), activation='relu'))
    network.add(layers.AveragePooling2D((2, 2)))
    network.add(layers.Conv2D(filters=120, kernel_size=(3, 3), activation='relu'))
    network.add(layers.Flatten())
    network.add(layers.Dense(84, activation='relu'))
    network.add(layers.Dense(10, activation='softmax'))
    return network

network = Lenet()

# 训练神经网络
# 编译：确定优化器（学习率/梯度下降步长）和损失函数等
network.compile(optimizer=RMSprop(lr=0.001), loss='categorical_crossentropy', metrics=['accuracy'])

train_images = train_images.reshape((60000, 28, 28, 1)).astype('float') / 255
test_images = test_images.reshape((10000, 28, 28, 1)).astype('float') / 255
train_labels = to_categorical(train_labels)
test_labels = to_categorical(test_labels)

# epochs表示训练多少个回合，batch_size表示每次训练给多大的数据
network.fit(train_images, train_labels, epochs=10, batch_size=128, verbose=2)
# 经过20轮训练，训练集准确率达到80%
# print(network.summary())

# 用模型进行预测
# y_pre = network.predict(test_images[:5])
# print(y_pre, test_labels[:5])
test_loss, test_accuracy = network.evaluate(test_images, test_labels)
print("test_loss: ", test_loss, "          test_accuracy: ", test_accuracy)

在这个简单的卷积神经网络模型上面，训练回合减少到了一半，而运行时间延长了不少，不过最终的测试结果准确率可以达到约99%：

请添加图片描述

你这个代码我看不懂
关注
  • 7
    点赞
  • 踩
  • 53
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 1
    评论
专栏目录
基于卷积神经网络的mnist手写体识别
weixin_44037639的博客
06-02 8707
基于卷积神经网络的mnist手写体识别 1、卷积神经网络 1.1、什么是卷积神经网络 首先，卷积神经网络的概念，百度是这么给出解释的——卷积神经网络（Convolutional Neural Networks, CNN）是一类包含卷积计算且具有深度结构的前馈神经网络（Feedforward Neural Networks），是深度学习（deep learning）的代表算法之一 。卷积神经网络...
手写数字识别：实验报告
05-30
AIstudio手写数字识别项目的实验报告，报告中有代码链接。文档包括： 1.数据预处理 2.数据加载 3.网络结构尝试：简单的多层感知器、卷积神经网络LeNet-5、循环神经网络RNN、Vgg16 4.损失函数：平方损失函数、交叉熵函数 5.优化算法：adagrad、adadelta、Adam、decayedAdagrad、Adamax、Ftrl 6.实验结果截图：准确率、混淆矩阵 最后是实验总结。
tensorflow实验五-----MNIST手写数字识别
PEABRAIND的博客
04-26 3901
数据获取 mnist = tf.keras.datasets.mnist (train_images,train_labels),(test_images,test_labels) = mnist.load_data() 之前没有下载过数据，会显示一个下载的过程 划分验证集 total_num = len(train_images) valid_split = 0.2 train_num = int(total_num*(1-valid_split)) train_x = train_images[:t
机器学习 —— MNIST手写体识别
最新发布
ZShiJ的博客
04-09 1865
给定数据集MNIST，Downloading data from https://storage.googleapis.com/tensorflow/tf-keras-datasets/mnist.npzMNIST是一个计算机视觉数据集，它包含各种手写数字图片0，1，2，…，9MNIST数据集包含：60000行的训练数据集（mnist.train）和10000行的测试数据集（mnist.test）。
MNIST手写体识别实验总结和心得体会
weixin_42601547的博客
02-18 2533
MNIST手写体识别是一个常用来测试图像分类模型的基础数据集。MNIST数据集包含了大约7万张手写数字图像，每张图像都是28x28像素的灰度图。每张图像都被标记为0到9之间的一个数字。 在MNIST手写体识别实验中，我们会训练一个图像分类模型，让它学会识别MNIST数据集中的手写数字。这个模型需要输入一张图像，然后输出图像上的数字。在训练过程中，我们会使用反向传播算法来更新模型的参数，以使模型在预...
【深度学习】实验15 使用CNN完成MNIST手写体识别(Keras)
兔子王
09-26 554
使用Keras中的CNN完成MNIST手写体识别。
使用mnist数据集实现手写字体的识别
陈依依的博客
11-20 3244
1.MNIST是一个入门级的计算机视觉数据集，它包含各种手写数字图片： 它也包含每一张图片对应的标签，告诉我们这个是数字几,该数据集包括60000行的训练数据集（mnist.train ）和10000行的测试数据集（mnist.test），每一张图片包含28X28个像素点 2.首先使用softmax回归实现手写字体的识别（代码） import input_data#input_data下载用...
基于MindSpore的MNIST手写体识别实验
04-16
基于华为自研MindSpore深度学习框架构建网络模型，实现MNIST手写体识别实验。 包含可运行源码、运行结果演示视频，本地MindSpore详细配置教程（私信可远程配置） 本例子会使用MindSpore深度学习框架实现一个简单的...
基于MindSpore的MNIST手写体识别实验（包含自己手写数字测试）
05-01
基于华为自研MindSpore深度学习框架构建网络模型，实现MNIST手写体识别实验。 包含自己手写体测试； 包含程序流程图 ； 包含可运行源码、运行结果演示视频，本地MindSpore详细配置教程（私信可远程配置）； 包含联系...
神经网络深度学习+MNIST数字识别实验报告
06-20
在本实验报告中，我们将深入探讨神经网络深度学习在MNIST数字识别中的应用。MNIST数据集是一个广泛使用的手写数字识别基准，它包含了60,000个训练样本和10,000个测试样本，每个样本都是28x28像素的灰度图像，对应0到...
模式识别作业 CNN_MNIST手写体识别
05-05
实验报告，附代码
中国科学院大学深度学习课程实验作业——手写数字识别（代码+实验报告）
01-14
手写数字识别是机器学习的经典任务之一，本文设计了一种简单的卷积神经网络(CNN)来完成手写数字识别任务，并采用pytorch框架搭建，其准确率在测试集高达99%，取得了不错的效果。
MindSpore实现手写数字识别
skytttttt9394的博客
01-28 1111
随机梯度下降法的流程是，假设有1000个数据，我们随机取1个数据，经过正向计算，得到1个计算结果，误差函数的计算公式就只依赖这1个计算结果；这种方法下，极大地降低了计算量，而且理论上，只要数据量够大，数据足够随机，最后也总会下降到所需极值点，毕竟计算数据量小了很多，算得更快了，下降速度也会快很多。mindspore的这个例子用的是小批量梯度下降，train_step每次输入64个数据，然后前向传播、计算梯度、更新参数，再进入下一个epoch，随机取新的64个数据，重复训练…没找到资料_(:з」∠)_）
pytorch——mnist手写数据识别
热门推荐
m0_51311105的博客
12-03 1万+
1、pytorch自带的数据集 pytorch中自带数据集由两个上层的API提供，分别是torchvision和torchtext。其中，torchvision提供了对照片数据处理相关的API和数据，数据所在位置：torchvision.datasets，比如torchvision.datasets.MNIST（手写数字照片数据）；torchtext提供了对文本数据处理相关的API和数据，数据所在位置：torchtext.datasets，比如torchtext.datasets.IMDB...
图像识别技术解析：手写数字识别（二）
m0_49380401的博客
03-13 1228
在这篇论文中提到了LeNet-5的卷积神经网络的架构，在下面的架构图中，最左边是输入（这里举的例子是一个尺寸为32x32的英文字母A，依次通过卷积层，池化层，卷积层，池化层，最后通过全连接层输出预测结果）。从这个手写数字的小程序的测试可以看出机器学习算法的局限性，而基于深度学习的卷积网络算法更能适应复杂多变的环境，当然这里只是在小数据集上使用经典的LeNet进行的一个简单的对比测试而已。为了能直观比较两个模型的预测效果，可以在后端的predict方法中同时调用卷积模型和随机森林模型。四、调用模型进行预测。
Tensorflow学习笔记——MNIST手写数字识别运行
darnell_cheng的博客
12-14 238
        作为非专业代码爱好者，之前粗略阅读过一些相关书籍，同时配合一些代码实践想要更加近距离了解和学习深度学习。通过实践之后更新博客记录下自己的心路历程，算是督促自己，同时想验证一下“不想当程序猿的理工男不是好工程师”这句话吧。对于小白宽容一些，不喜勿喷谢谢。 >>> from tensorflow.examples.tutorials.mnist import in...
实现mnist手写数字识别（第一周）
weixin_56118617的博客
09-28 2894
​ 本文为🔗365天深度学习训练营中的学习记录博客。 1.​了解pytorch开发基础流程，学习一些函数的使用方法。 2.通过改进CNN模型，20个epoch准确率达到了99.5%。
python手写数字识别实验报告_ANN MNIST手写数字识别总结
weixin_39630498的博客
12-04 6567
由于第十四周除了正常上课外，其余时间在整理机器学习的笔记，做中特社会调查报告，然后就是元旦放假，故第十四周没提交周报。本周正常上课，继续完成老师都布置的课业任务，总结通信系统仿真结果，并且完成报告的撰写，分析社会调查结果，做好报告，查阅物理层安全方面的资料，翻译和整理论文。其余时间是开始学习深度学习理论和编程实践，人工神经网络(ANN)和卷积神经网络，了解深度学习几个框架(Caffe、Torch、...
基于python的手写数字识别实验报告_手写体数字识别实验报告
weixin_39874366的博客
12-06 1327
4.2半监督算法的主要算法：.................................................................................................41)self-Trainingmodels：....................................................................
mnist手写体识别实验 mindspore
11-06
mnist手写体识别实验是一种常见的机器学习任务，旨在通过对手写数字图像进行训练，构建出一个能够识别手写数字的模型。而MindSpore是华为公司开发的一种开源深度学习框架，具有高效、易用、安全等特点。 在使用MindSpore进行mnist手写体识别实验时，可以按照以下步骤进行操作： 1. 数据准备：首先，需要收集并准备用于训练和评估的手写数字图像数据集。MNIST数据集通常包含有大量的手写数字图像和对应的标签。 2. 构建模型：接下来，使用MindSpore框架来构建一个适合于mnist手写体识别的模型。可以选择常见的卷积神经网络（CNN）模型，如LeNet-5等。 3. 模型训练：使用MindSpore进行模型训练。通过将准备好的训练数据输入模型，通过反向传播算法进行梯度下降优化，不断调整模型参数，直至模型收敛。 4. 模型评估：在训练完成后，使用准备好的评估数据集对模型进行评估，计算准确率、精确度、召回率等指标，以了解模型的性能。 5. 模型部署：最后，可以将经过训练和评估的模型部署到实际应用中，实现对手写数字的实时识别。 总结而言，使用MindSpore进行mnist手写体识别实验可以辅助我们快速构建和训练一个高效的模型，并能够将模型部署到实际应用中，实现手写数字的自动化识别。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

你这个代码我看不懂

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值