Tensorflow（六）使用LSTM对MNIST数据集进行分类

最新推荐文章于 2024-08-13 14:31:48 发布
最新推荐文章于 2024-08-13 14:31:48 发布
阅读量2.4k 收藏 20
点赞数 2
分类专栏： tensorflow 文章标签： RNN LSTM tensorflow MNIST
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/bazingaea/article/details/84303809
版权
本文介绍了如何使用TensorFlow实现LSTM对MNIST手写数字数据集进行分类。通过理解LSTM的基础和工作原理，结合代码示例详细阐述了数据预处理、LSTM网络模型构建以及训练过程。
摘要由CSDN通过智能技术生成

对于RNN和LSTM不了解的朋友，可以去看看这两篇入门介绍，写的非常棒，在此特别感谢两位作者！！

RNN入门：https://zhuanlan.zhihu.com/p/28054589

LSTM入门：http://colah.github.io/posts/2015-08-Understanding-LSTMs

本文参照了：https://jasdeep06.github.io/posts/Understanding-LSTM-in-Tensorflow-MNIST/ 对这篇文章结合自己的理解作出翻译。

 

1.MNIST数据集结构

  1. Training data(mnist.train)-55000 个训练数据集
  2. Test data(mnist.test)-10000 个测试数据集
  3. Validation data(mnist.validation)-5000个验证数据集

每个类别又分为了images和labels，也就是图片以及标签，每张图片都是（28*28*1）的，数据集中将图片的特征值压缩为（number，784）。LSTMs通常适用于复杂的序列问题像自然语言处理这类的问题，但这种问题本身就不太好理解，我们的主要目标是去理解LSTMs在tensorflow中具体实现细节，比如处理输入格式，LSTM的cell运作以及对网络模型的整体设计。MNIST就是一个不错的选择。

 

2.Implementation

首先给出一张RNN网络图，理解了这张图再去实现代码就会更直观。

  1. xt 代表了每个时间节点的输入
  2. st 代表了在t时间点的隐藏单元 这也成为网络的记忆 memory
  3. ot 代表每个时间点的输出
  4. U,V and W 是每个时间点都共享的参数࿰
最低0.47元/天 解锁文章
Bazingaea
关注
专栏目录
LSTM应用于MNIST数据集分类(与CNN做对比)
冲出仁川，走出马德里，故事还会再继续
07-02 2135
  LSTM网络是序列模型，一般比较适合处理序列问题。这里把它用于手写数字图片的分类，其实就相当于把图片看作序列。  一张MNIST数据集的图片是28×2828\times 2828×28的大小，我们可以把每一行看作是一个序列输入，那么一张图片就是28行，序列长度为28；每一行有28个数据，每个序列输入28个值。  这里我们可以将LSTM和CNN的代码结果进行对比。 2.1 载入数据集 2.2 创建模型 2.3 定义优化器 2.4 编译模型 2.5 训练模型 2.6 打印模型摘要    L
TensorFlow实现LSTM（分类）
cchangcs
07-16 7694
最近在学习TensorFlow，学习了使用TensorFlow来实现LSTM（长短时记忆），并学习了LSTM在分类方面的示例。即应用TensorFlow实现LSTM，对 MNIST 数据集进行分类。下面是示例代码：#encoding:utf-8 import tensorflow as tf from tensorflow.examples.tutorials.mnist import input...
Tensorflow— 递归神经网络RNN
wangsiji_buaa的博客
05-07 1727
代码：import tensorflow as tf from tensorflow.examples.tutorials.mnist import input_data mnist = input_data.read_data_sets('MNIST_data/', one_hot=True)运行结果：Extracting MNIST_data/train-images-idx3-ubyte....
LSTM--概念、作用、原理、优缺点以及简单的示例代码
最新发布
GDHBFTGGG的博客
08-13 1392
LSTM（Long Short-Term Memory）是一种特殊的递归神经网络（RNN），最早由Sepp Hochreiter和Jürgen Schmidhuber在1997年提出。LSTM设计的主要目的是解决标准RNN中的长时依赖问题。RNN在处理长序列时，由于梯度消失或梯度爆炸问题，难以捕捉到长期依赖关系，而LSTM通过引入“记忆单元”（memory cell）和“门控机制”（gating mechanism）来有效地解决这一问题。
Tensorflow 学习笔记之使用LSTM实现MNIST数据集
QQQ的博客
10-26 1315
LSTM实现MNIST手写集识别 这几天刚好看了RNN之后了解了LSTM（原理可以去参考这个）。虽然LSTM主要用于处理自然语言、语音、机器人翻译等领域，但图片也可以看做一个有序列的数据。所以用LSTM来识别Tensorflow入门数据集。 配置神经网络参数 import tensorflow as tf from tensorflow.examples.tutorials.mnist imp...
LSTM对MNIST分类
qq_43296197的博客
02-03 397
import torch from torch import nn import torchvision.datasets as dsets import torchvision.transforms as transforms import matplotlib.pyplot as plt # torch.manual_seed(1) # reproducible # Hyper P...
TensorFlow：实现CNN对MNIST数据集分类 与 朴素贝叶斯训练并生成MNIST样本python实现 与 LSTM 的 MNIST 分类 + 可视化
sinat_22510827的博客
12-25 713
朴素贝叶斯生成新的样本数据，主要是通过训练时计算的先验概率p(y)和似然p(x|y)生成。首先会通过先验概率大小随机生成第c类，然后通过c类的似然概率大小，生成每一维的数据，最后就得到了新的样本。数据集加载方法load_mnist可以自行修改，这里用到了mnist-original.mat文件需要下载后放入当前路径的datasets/mldata下。 from sklearn.datasets import fetch_mldata from collections import Counter imp
CNN和LSTM识别MNIST数据集.zip
11-09
通过比较CNN和LSTM模型在MNIST数据集上的表现，我们可以了解两种模型在处理图像识别任务时的优势和局限性。CNN通常在图像处理中表现出色，而LSTM则在序列数据上更占优势。在这个项目中，通过实际运行代码，我们可以...
基于tensorflow的LSTM实战：MNIST分类
AnneQiQi的博客
12-10 448
设置 RNN 的参数¶ 这次我们会使用 RNN 来进行分类的训练 (Classification). 会继续使用到手写数字 MNIST 数据集. 让 RNN 从每张图片的第一行像素读到最后一行, 然后再进行分类判断. 接下来我们导入 MNIST 数据并确定 RNN 的各种参数(hyper-parameters): import tensorflow as tf from tensor...
用LSTM分类 MNIST
weixin_30413739的博客
09-03 287
LSTM是RNN的一种算法， 在序列分类中比较有用。常用于语音识别，文字处理（NLP）等领域。 等同于VGG等CNN模型在在图像识别领域的位置。 本篇文章是叙述LSTM 在MNIST 手写图中的使用。 用来给初步学习RNN的一个范例，便于学习和理解LSTM . 先把工作流程图贴一下： 代码片段 ： 数据准备 def makedata(): ...
LSTM对MNIST数据集做分类
MESSI_JAMES的博客
12-19 2232
https://morvanzhou.github.io/tutorials/machine-learning/tensorflow/5-08-RNN2/ 1.设置 RNN 的参数 RNN 从每张图片的第一行像素读到最后一行, 然后再进行分类判断. （1）导入 MNIST 数据并确定 RNN 的各种参数 下载地址: http://yann.lecun.com/exdb/mnist/ impo...
基于LSTM模型的MNIST分类
健身房
06-02 576
设置RNN的参数   这次我们使用RNN来进行分类的训练，继续使用手写数字MNIST数据集。让RNN从每张图片的第一行像素读到最后一行，然后再进行分类判断。接下来导入MNIST数据并确定RNN的各种参数： import tensorflow as tf from tensorflow.examples.tutorials.mnist import input_data mnist = input_data.read_data_sets('./MNIST_data', one_hot=True) lr =
使用pytorch的LSTM实现MNIST数据集分类任务
一个小菜鸟的博客
05-05 1475
使用pytorch的LSTM实现MNIST数据集分类任务 """ __author__:shuangrui Guo __description__: """ import torch import torch.nn as nn import torch.optim as optim import torchvision from torchvision import transforms from torch.utils.data import DataLoader class Rnn_LSTM(.
PyTorch—LSTM网络实现mnist数据集
红叶谷 wsp_1138886114的博客
03-01 2305
import torch from torch import nn, optim from torch.autograd import Variable from torch.utils.data import DataLoader from torchvision import transforms from torchvision import datasets # 定义超参数 batch_...
基于Tensorflow的双层循环神经网络RNN(LSTM)实现(MNIST数据集)
kawhi849
09-09 3248
本文使用双层LSTM网络，实现对MNIST数据集的分类。 理解LSTM网络的传送门：https://blog.csdn.net/jerr__y/article/details/58598296 参考：https://blog.csdn.net/jerr__y/article/details/61195257 # -*- coding:utf-8 -*- import tensorflow ...
使用LSTM分类MNIST数据集
the_little_fairy___的博客
03-26 5074
参考文献【机器之心——使用MNIST数据集，在TensorFlow上实现基础LSTM网络】 1、LSTM简单介绍 LSTM主要用于处理时间序列。在这里我们将一张图片的每一列或者每一行当成一个序列，这个序列是有一定的规律的，我们希望借助LSTM识别这种每一行的变化模式从而对数据集进行分类。 2、关于MNIST数据集 MNIST 数据集包括手写数字的图像和对应的标签。我们可以根据以下内置功能从 Ten...
【TensorFlow】使用双向LSTM对MNIST进行分类
bqw的博客
12-12 1827
import tensorflow as tf import numpy as np from tensorflow.contrib import rnn from tensorflow.examples.tutorials.mnist import input_data 加载数据 mnist = input_data.read_data_sets('/tmp/data',one_hot=Tru...
如何基于TensorFlow使用LSTM和CNN实现时序分类任务
weixin_33777877的博客
01-08 2534
https://www.jiqizhixin.com/articles/2017-09-12-5 By 蒋思源2017年9月12日 09:54 时序数据经常出现在很多领域中，如金融、信号处理、语音识别和医药。传统的时序问题通常首先需要人力进行特征工程，才能将预处理的数据输入到机器学习算法中。并且这种特征工程通常需要一些特定领域内的专业知识，因此也就更进一步加大了预处理成本。例如信号处理（即 E...
python编程：采用BiLSTM对MNIST手写数字数据集进行识别，并与单向的LSTM比较。
05-31
好的，以下是使用BiLSTM和单向LSTM对MNIST手写数字数据集进行识别的Python代码实现和比较。 ```python import tensorflow as tf from tensorflow import keras import numpy as np # 加载数据集 (x_train, y_train), (x_test, y_test) = keras.datasets.mnist.load_data() # 将像素值缩放到0-1之间 x_train = x_train / 255.0 x_test = x_test / 255.0 # 将标签转换为one-hot编码 y_train = keras.utils.to_categorical(y_train, 10) y_test = keras.utils.to_categorical(y_test, 10) # 调整输入数据的形状 x_train = np.reshape(x_train, (60000, 28, 28)) x_test = np.reshape(x_test, (10000, 28, 28)) # 搭建单向LSTM模型 model_lstm = keras.Sequential([ keras.layers.LSTM(units=128, input_shape=(28, 28)), keras.layers.Dense(units=10, activation='softmax') ]) model_lstm.compile(loss='categorical_crossentropy', optimizer='adam', metrics=['accuracy']) # 搭建BiLSTM模型 model_bilstm = keras.Sequential([ keras.layers.Bidirectional(keras.layers.LSTM(units=128, input_shape=(28, 28))), keras.layers.Dense(units=10, activation='softmax') ]) model_bilstm.compile(loss='categorical_crossentropy', optimizer='adam', metrics=['accuracy']) # 训练模型 model_lstm.fit(x_train, y_train, epochs=10, batch_size=32, validation_data=(x_test, y_test)) model_bilstm.fit(x_train, y_train, epochs=10, batch_size=32, validation_data=(x_test, y_test)) # 模型性能比较 loss, acc = model_lstm.evaluate(x_test, y_test) print('单向LSTM模型：') print('测试集上的损失：', loss) print('测试集上的准确率：', acc) loss, acc = model_bilstm.evaluate(x_test, y_test) print('BiLSTM模型：') print('测试集上的损失：', loss) print('测试集上的准确率：', acc) ``` 根据实验结果可以发现，使用BiLSTM模型的准确率要高于单向LSTM模型，这是因为BiLSTM模型可以利用上下文信息，提高了模型的识别能力。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值