手写数字识别

最新推荐文章于 2022-11-21 20:07:30 发布
最新推荐文章于 2022-11-21 20:07:30 发布
阅读量511 收藏 2
点赞数 2
分类专栏： Paddle 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qqghj/article/details/113789663
版权

概念

 

图像分类引导了卷积神经网络的发展 

LeNet-5卷积神经网络（CNN）的开山鼻祖 

深度开发万能公式

 

 

 

 

初识卷积神经网络

 

 

 

 

 

代码实战

回顾深度学习万能公式

 

① 问题定义

图像分类，使用LeNet-5网络完成手写数字识别图片的分类。

In [1]

import paddle
import numpy as np
import matplotlib.pyplot as plt

paddle.__version__

② 数据准备

继续应用框架中封装好的手写数字识别数据集。

2.1 数据集加载和预处理

In [2]

# 数据预处理
import paddle.vision.transforms as T

# 数据预处理，TODO：找一下提出的原论文看一下
transform = T.Normalize(mean=[127.5], std=[127.5])

# 训练数据集
train_dataset = paddle.vision.datasets.MNIST(mode='train', transform=transform)

# 验证数据集
eval_dataset = paddle.vision.datasets.MNIST(mode='test', transform=transform)

print('训练样本量：{}，测试样本量：{}'.format(len(train_dataset), len(eval_dataset)))

2.2 数据查看

In [3]

print('图片：')
print(type(train_dataset[0][0]))
print(train_dataset[0][0])
print('标签：')
print(type(train_dataset[0][1]))
print(train_dataset[0][1])

# 可视化展示
plt.figure()
plt.imshow(train_dataset[0][0].reshape([28,28]), cmap=plt.cm.binary)
plt.show()

③ 模型选择和开发

我们选用LeNet-5网络结构。

LeNet-5模型源于论文“LeCun Y, Bottou L, Bengio Y, et al. Gradient-based learning applied to document recognition[J]. Proceedings of the IEEE, 1998, 86(11): 2278-2324.”，

论文地址：https://ieeexplore.ieee.org/document/726791

3.1 网络结构定义

 

3.1.1 模型介绍

每个阶段用到的Layer

 

3.1.2 网络结构代码实现1

理解原论文进行的复现实现，因为模型论文出现在1998年，很多技术还不是最新。

In [5]

import paddle.nn as nn

network = nn.Sequential(
    nn.Conv2D(in_channels=1, out_channels=6, kernel_size=5, stride=1, padding=0),  # C1 卷积层
    nn.Tanh(),
    nn.AvgPool2D(kernel_size=2, stride=2),  # S2 平局池化层
    nn.Sigmoid(),   # Sigmoid激活函数
    nn.Conv2D(in_channels=6, out_channels=16, kernel_size=5, stride=1, padding=0),  # C3 卷积层
    nn.Tanh(),
    nn.AvgPool2D(kernel_size=2, stride=2),  # S4 平均池化层
    nn.Sigmoid(),  # Sigmoid激活函数
    nn.Conv2D(in_channels=16, out_channels=120, kernel_size=5, stride=1, padding=0), # C5 卷积层
    nn.Tanh(),
    nn.Flatten(),
    nn.Linear(in_features=120, out_features=84), # F6 全连接层
    nn.Tanh(),
    nn.Linear(in_features=84, out_features=10) # OUTPUT 全连接层
)

模型可视化

In [6]

paddle.summary(network, (1, 1, 32, 32))

3.1.3 网络结构代码实现2

应用了截止到现在为止新的技术点实现后的模型，用Sequential写法。

In [7]

import paddle.nn as nn

network_2 = nn.Sequential(
    nn.Conv2D(in_channels=1, out_channels=6, kernel_size=3, stride=1, padding=1),
    nn.ReLU(),
    nn.MaxPool2D(kernel_size=2, stride=2),
    nn.Conv2D(in_channels=6, out_channels=16, kernel_size=5, stride=1, padding=0),
    nn.ReLU(),
    nn.MaxPool2D(kernel_size=2, stride=2),
    nn.Flatten(),
    nn.Linear(in_features=400, out_features=120),  # 400 = 5x5x16，输入形状为32x32， 输入形状为28x28时调整为256
    nn.Linear(in_features=120, out_features=84),
    nn.Linear(in_features=84, out_features=10)
)

模型可视化

In [8]

paddle.summary(network_2, (1, 1, 28, 28))

3.1.4 网络结构代码实现3

应用了截止到现在为止新的技术点实现后的模型，模型结构和【网络结构代码实现2】一致，用Sub Class写法。

In [9]

class LeNet(nn.Layer):
    """
    继承paddle.nn.Layer定义网络结构
    """

    def __init__(self, num_classes=10):
        """
        初始化函数
        """
        super(LeNet, self).__init__()

        self.features = nn.Sequential(
            nn.Conv2D(in_channels=1, out_channels=6, kernel_size=3, stride=1, padding=1),  # 第一层卷积
            nn.ReLU(), # 激活函数
            nn.MaxPool2D(kernel_size=2, stride=2),  # 最大池化，下采样
            nn.Conv2D(in_channels=6, out_channels=16, kernel_size=5, stride=1, padding=0), # 第二层卷积
            nn.ReLU(), # 激活函数
            nn.MaxPool2D(kernel_size=2, stride=2) # 最大池化，下采样
        )

        self.fc = nn.Sequential(
            nn.Linear(400, 120),  # 全连接
            nn.Linear(120, 84),   # 全连接
            nn.Linear(84, num_classes) # 输出层
        )

    def forward(self, inputs):
        """
        前向计算
        """
        y = self.features(inputs)
        y = paddle.flatten(y, 1)
        out = self.fc(y)

        return out

network_3 = LeNet()

模型可视化

In [10]

paddle.summary(network_3, (1, 1, 28, 28))

3.1.4 网络结构代码实现4

直接应用高层API中封装好的LeNet网络接口。

In [11]

network_4 = paddle.vision.models.LeNet(num_classes=10)

3.1.4 模型可视化

通过summary接口来查看搭建的网络结构，查看输入和输出形状，以及需要训练的参数信息。

In [12]

paddle.summary(network_4, (1, 1, 28, 28))

④ 模型训练和优化

模型配置

  • 优化器：SGD
  • 损失函数：交叉熵（cross entropy）
  • 评估指标：Accuracy

In [53]

# 模型封装
model = paddle.Model(network_4)

# 模型配置
model.prepare(paddle.optimizer.Adam(learning_rate=0.001, parameters=model.parameters()), # 优化器
              paddle.nn.CrossEntropyLoss(), # 损失函数
              paddle.metric.Accuracy()) # 评估指标

# 启动全流程训练
model.fit(train_dataset,  # 训练数据集
          eval_dataset,   # 评估数据集
          epochs=5,       # 训练轮次
          batch_size=64,  # 单次计算数据样本量
          verbose=1)      # 日志展示形式

⑤ 模型评估

5.1 模型评估

In [26]

result = model.evaluate(eval_dataset, verbose=1)

print(result)

5.2 模型预测

5.2.1 批量预测

使用model.predict接口来完成对大量数据集的批量预测。

In [27]

# 进行预测操作
result = model.predict(eval_dataset)

In [28]

# 定义画图方法
def show_img(img, predict):
    plt.figure()
    plt.title('predict: {}'.format(predict))
    plt.imshow(img.reshape([28, 28]), cmap=plt.cm.binary)
    plt.show()

# 抽样展示
indexs = [2, 15, 38, 211]

for idx in indexs:
    show_img(eval_dataset[idx][0], np.argmax(result[0][idx]))

⑥ 部署上线

6.1 保存模型

In [29]

model.save('finetuning/mnist')

6.2 继续调优训练

In [33]

from paddle.static import InputSpec

network = paddle.vision.models.LeNet(num_classes=10)
# 模型封装，为了后面保存预测模型，这里传入了inputs参数
model_2 = paddle.Model(network, inputs=[InputSpec(shape=[-1, 1, 28, 28], dtype='float32', name='image')])

# 加载之前保存的阶段训练模型
model_2.load('finetuning/mnist')

# 模型配置
model_2.prepare(paddle.optimizer.Adam(learning_rate=0.0001, parameters=network.parameters()),  # 优化器
                paddle.nn.CrossEntropyLoss(), # 损失函数
                paddle.metric.Accuracy()) # 评估函数

# 模型全流程训练
model_2.fit(train_dataset,  # 训练数据集
            eval_dataset,   # 评估数据集
            epochs=2,       # 训练轮次
            batch_size=64,  # 单次计算数据样本量
            verbose=1)      # 日志展示形式

6.3 保存预测模型

In [34]

# 保存用于后续推理部署的模型
model_2.save('infer/mnist', training=False)

 

导入相关库

In [ ]

import paddle
import numpy as np
import matplotlib.pyplot as plt

paddle.__version__
'2.0.0'

② 数据准备

2.1 数据加载和预处理

In [ ]

import paddle.vision.transforms as T

# 数据的加载和预处理
transform = T.Normalize(mean=[127.5], std=[127.5])

# 训练数据集
train_dataset = paddle.vision.datasets.MNIST(mode='train', transform=transform)

# 评估数据集
eval_dataset = paddle.vision.datasets.MNIST(mode='test', transform=transform)

print('训练集样本量: {}，验证集样本量: {}'.format(len(train_dataset), len(eval_dataset)))
训练集样本量: 60000，验证集样本量: 10000

2.2 数据集查看

In [65]

print('图片：')
print(type(train_dataset[0][0]))
print(train_dataset[0][0])
print('标签：')
print(type(train_dataset[0][1]))
print(train_dataset[0][1])

# 可视化展示
plt.figure()
plt.imshow(train_dataset[0][0].reshape([28,28]), cmap=plt.cm.binary)
plt.show()

图片：
<class 'numpy.ndarray'>
[[[-1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.        ]
  [-1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.        ]
  [-1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.        ]
  [-1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.        ]
  [-1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.        ]
  [-1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -0.9764706  -0.85882354 -0.85882354
   -0.85882354 -0.01176471  0.06666667  0.37254903 -0.79607844
    0.3019608   1.          0.9372549  -0.00392157 -1.
   -1.         -1.         -1.        ]
  [-1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -0.7647059  -0.7176471
   -0.2627451   0.20784314  0.33333334  0.9843137   0.9843137
    0.9843137   0.9843137   0.9843137   0.7647059   0.34901962
    0.9843137   0.8980392   0.5294118  -0.49803922 -1.
   -1.         -1.         -1.        ]
  [-1.         -1.         -1.         -1.         -1.
   -1.         -1.         -0.6156863   0.8666667   0.9843137
    0.9843137   0.9843137   0.9843137   0.9843137   0.9843137
    0.9843137   0.9843137   0.96862745 -0.27058825 -0.35686275
   -0.35686275 -0.56078434 -0.69411767 -1.         -1.
   -1.         -1.         -1.        ]
  [-1.         -1.         -1.         -1.         -1.
   -1.         -1.         -0.85882354  0.7176471   0.9843137
    0.9843137   0.9843137   0.9843137   0.9843137   0.5529412
    0.42745098  0.9372549   0.8901961  -1.         -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.        ]
  [-1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -0.37254903  0.22352941
   -0.16078432  0.9843137   0.9843137   0.60784316 -0.9137255
   -1.         -0.6627451   0.20784314 -1.         -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.        ]
  [-1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -1.         -0.8901961
   -0.99215686  0.20784314  0.9843137  -0.29411766 -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.        ]
  [-1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -1.         -1.
   -1.          0.09019608  0.9843137   0.49019608 -0.9843137
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.        ]
  [-1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -0.9137255   0.49019608  0.9843137  -0.4509804
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.        ]
  [-1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -0.7254902   0.8901961   0.7647059
    0.25490198 -0.15294118 -0.99215686 -1.         -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.        ]
  [-1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -0.3647059   0.88235295
    0.9843137   0.9843137  -0.06666667 -0.8039216  -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.        ]
  [-1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -1.         -0.64705884
    0.45882353  0.9843137   0.9843137   0.1764706  -0.7882353
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.        ]
  [-1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -1.         -1.
   -0.8745098  -0.27058825  0.9764706   0.9843137   0.46666667
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.        ]
  [-1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.          0.9529412   0.9843137   0.9529412
   -0.49803922 -1.         -1.         -1.         -1.
   -1.         -1.         -1.        ]
  [-1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -1.         -0.6392157
    0.01960784  0.43529412  0.9843137   0.9843137   0.62352943
   -0.9843137  -1.         -1.         -1.         -1.
   -1.         -1.         -1.        ]
  [-1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -0.69411767  0.16078432  0.79607844
    0.9843137   0.9843137   0.9843137   0.9607843   0.42745098
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.        ]
  [-1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -1.         -1.
   -0.8117647  -0.10588235  0.73333335  0.9843137   0.9843137
    0.9843137   0.9843137   0.5764706  -0.3882353  -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.        ]
  [-1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -0.81960785 -0.48235294
    0.67058825  0.9843137   0.9843137   0.9843137   0.9843137
    0.5529412  -0.3647059  -0.9843137  -1.         -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.        ]
  [-1.         -1.         -1.         -1.         -1.
   -1.         -0.85882354  0.34117648  0.7176471   0.9843137
    0.9843137   0.9843137   0.9843137   0.5294118  -0.37254903
   -0.92941177 -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.        ]
  [-1.         -1.         -1.         -1.         -0.5686275
    0.34901962  0.77254903  0.9843137   0.9843137   0.9843137
    0.9843137   0.9137255   0.04313726 -0.9137255  -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.        ]
  [-1.         -1.         -1.         -1.          0.06666667
    0.9843137   0.9843137   0.9843137   0.6627451   0.05882353
    0.03529412 -0.8745098  -1.         -1.         -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.        ]
  [-1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.        ]
  [-1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.        ]
  [-1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.         -1.         -1.
   -1.         -1.         -1.        ]]]
标签：
<class 'numpy.ndarray'>
[5]


<Figure size 432x288 with 1 Axes>

③ 模型选择和开发

3.1 模型组网

In [ ]

# 模型网络结构搭建
network = paddle.nn.Sequential(
    paddle.nn.Flatten(),           # 拉平，将 (28, 28) => (784)
    paddle.nn.Linear(784, 512),    # 隐层：线性变换层
    paddle.nn.ReLU(),              # 激活函数
    paddle.nn.Linear(512, 10)      # 输出层
)

模型网络结构可视化

In [37]

# 模型封装
model = paddle.Model(network)

# 模型可视化
model.summary((1, 28, 28))
---------------------------------------------------------------------------
 Layer (type)       Input Shape          Output Shape         Param #    
===========================================================================
   Flatten-1       [[1, 28, 28]]           [1, 784]              0       
   Linear-1          [[1, 784]]            [1, 512]           401,920    
    ReLU-1           [[1, 512]]            [1, 512]              0       
   Linear-2          [[1, 512]]            [1, 10]             5,130     
===========================================================================
Total params: 407,050
Trainable params: 407,050
Non-trainable params: 0
---------------------------------------------------------------------------
Input size (MB): 0.00
Forward/backward pass size (MB): 0.01
Params size (MB): 1.55
Estimated Total Size (MB): 1.57
---------------------------------------------------------------------------


{'total_params': 407050, 'trainable_params': 407050}

In [38]

# 配置优化器、损失函数、评估指标
model.prepare(paddle.optimizer.Adam(learning_rate=0.001, parameters=network.parameters()),
              paddle.nn.CrossEntropyLoss(),
              paddle.metric.Accuracy())
              
# 启动模型全流程训练
model.fit(train_dataset,  # 训练数据集
          eval_dataset,   # 评估数据集
          epochs=5,       # 训练的总轮次
          batch_size=64,  # 训练使用的批大小
          verbose=1)      # 日志展示形式
The loss value printed in the log is the current step, and the metric is the average value of previous step.
Epoch 1/5
step 938/938 [==============================] - loss: 0.0325 - acc: 0.9902 - 7ms/step           
Eval begin...
The loss value printed in the log is the current batch, and the metric is the average value of previous step.
step 157/157 [==============================] - loss: 7.0694e-04 - acc: 0.9807 - 6ms/step     
Eval samples: 10000
Epoch 2/5
step 938/938 [==============================] - loss: 0.0028 - acc: 0.9920 - 7ms/step         
Eval begin...
The loss value printed in the log is the current batch, and the metric is the average value of previous step.
step 157/157 [==============================] - loss: 6.0556e-05 - acc: 0.9744 - 6ms/step       
Eval samples: 10000
Epoch 3/5
step 938/938 [==============================] - loss: 0.0070 - acc: 0.9932 - 7ms/step         
Eval begin...
The loss value printed in the log is the current batch, and the metric is the average value of previous step.
step 157/157 [==============================] - loss: 1.0386e-04 - acc: 0.9767 - 6ms/step     
Eval samples: 10000
Epoch 4/5
step 938/938 [==============================] - loss: 0.0012 - acc: 0.9928 - 7ms/step           
Eval begin...
The loss value printed in the log is the current batch, and the metric is the average value of previous step.
step 157/157 [==============================] - loss: 5.0365e-06 - acc: 0.9790 - 6ms/step       
Eval samples: 10000
Epoch 5/5
step 938/938 [==============================] - loss: 0.0416 - acc: 0.9925 - 7ms/step         
Eval begin...
The loss value printed in the log is the current batch, and the metric is the average value of previous step.
step 157/157 [==============================] - loss: 1.2732e-05 - acc: 0.9795 - 6ms/step       
Eval samples: 10000

⑤ 模型评估测试

5.1 模型评估

In [40]

# 模型评估，根据prepare接口配置的loss和metric进行返回
result = model.evaluate(eval_dataset, verbose=1)

print(result)
Eval begin...
The loss value printed in the log is the current batch, and the metric is the average value of previous step.
step 10000/10000 [==============================] - loss: 0.0000e+00 - acc: 0.9795 - 2ms/step         
Eval samples: 10000
{'loss': [0.0], 'acc': 0.9795}

5.2 模型预测

5.2.1 批量预测

使用model.predict接口来完成对大量数据集的批量预测。

In [48]

# 进行预测操作
result = model.predict(eval_dataset)

# 定义画图方法
def show_img(img, predict):
    plt.figure()
    plt.title('predict: {}'.format(predict))
    plt.imshow(img.reshape([28, 28]), cmap=plt.cm.binary)
    plt.show()

# 抽样展示
indexs = [2, 15, 38, 211]

for idx in indexs:
    show_img(eval_dataset[idx][0], np.argmax(result[0][idx]))
Predict begin...
step 10000/10000 [==============================] - 1ms/step        
Predict samples: 10000


<Figure size 432x288 with 1 Axes>

<Figure size 432x288 with 1 Axes>

<Figure size 432x288 with 1 Axes>

<Figure size 432x288 with 1 Axes>

5.2.2 单张图片预测

采用model.predict_batch来进行单张或少量多张图片的预测。

In [52]

# 读取单张图片
image = eval_dataset[501][0]

# 单张图片预测
result = model.predict_batch([image])

# 可视化结果
show_img(image, np.argmax(result))

<Figure size 432x288 with 1 Axes>

⑥ 部署上线

6.1 保存模型

In [54]

# 保存用于后续继续调优训练的模型
model.save('finetuning/mnist')

6.2 继续调优训练

In [56]

from paddle.static import InputSpec


# 模型封装，为了后面保存预测模型，这里传入了inputs参数
model_2 = paddle.Model(network, inputs=[InputSpec(shape=[-1, 28, 28], dtype='float32', name='image')])

# 加载之前保存的阶段训练模型
model_2.load('finetuning/mnist')

# 模型配置
model_2.prepare(paddle.optimizer.Adam(learning_rate=0.001, parameters=network.parameters()),
                paddle.nn.CrossEntropyLoss(),
                paddle.metric.Accuracy())

# 模型全流程训练
model_2.fit(train_dataset, 
            eval_dataset,
            epochs=2,
            batch_size=64,
            verbose=1)
The loss value printed in the log is the current step, and the metric is the average value of previous step.
Epoch 1/2
step 938/938 [==============================] - loss: 0.0563 - acc: 0.9926 - 7ms/step         
Eval begin...
The loss value printed in the log is the current batch, and the metric is the average value of previous step.
step 157/157 [==============================] - loss: 3.1640e-05 - acc: 0.9775 - 6ms/step       
Eval samples: 10000
Epoch 2/2
step 938/938 [==============================] - loss: 0.0018 - acc: 0.9935 - 7ms/step         
Eval begin...
The loss value printed in the log is the current batch, and the metric is the average value of previous step.
step 157/157 [==============================] - loss: 8.6797e-06 - acc: 0.9783 - 6ms/step     
Eval samples: 10000

6.3 保存预测模型

In [58]

# 保存用于后续推理部署的模型
model_2.save('infer/mnist', training=False)

 

身在江湖的郭大侠
关注
  • 2
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 1
    评论
专栏目录
tensorflow实现手写数字识别(MNIST)
总裁余（余登武）博客
04-30 2938
手写数字图片数字集       机器学习需要从数据中间学习，因此首先需要采集大量的真实样本数据。以手写的数字图片识别为例，我们需要收集大量的由真人书写的0-9的数字图片，为了便于存储和计算，一般把收集的原始图片缩放到某个固定的大小(Size或Shape),比如224个像素的行和224个像素的列(224x 224)，或者96个像素的行和96个像素的列(96x 96)，这张图片将作为输入数据x。同时，我们需要给每一张图片标注一个标签(Label)，它将
WebGL中的卷积神经网络进行数字识别-Node.js开发
05-27
regl-cnn GPU使用regl加速了手写数字识别。 此处的演示实现细节此演示通过使用WebGL在GPU上评估卷积神经网络来进行手写数字识别。 regl-cnn GPU使用regl加速了手写数字识别。 此处的演示实现细节此演示通过使用WebGL在GPU上评估卷积神经网络来进行手写数字识别。 通过此脚本在TensorFlow中对网络进行了训练，然后使用WebGL在GPU上手动重新实现了网络。 该演示的主要目的是演示如何使用我们的WebGL框架regl来大大简化WebGL中的GPGPU编程。 次要目的
深度学习入门必看-手写数字识别
Python，数据分析，机器学习，深度学习
11-15 1万+
前言 目前深度学习框架paddlepaddle、tensorflow、pytorch比较，结合网上大神的总结，pytorch更好学，社区也大，教程较多，莫名其妙的错误比较少。它基于动态图，可以按照正常人的思路玩，API较稳定。 paddlepaddle的话同时支持动态图和静态图，但是社区还在建设中，版本迭代更新快。不过可以嫖百度的云计算服务，值得一试。而且配套的预训练模型和可视化等等开发工具也在上线中，蛮好用的。 tensorflow是出了名新手劝退框架，因为文档比较反萌新，版本兼容性较差（我曾在嫉妒
用tensorflow.js实现浏览器内的手写数字识别
Just for fun的专栏
05-08 1793
原文 简介 Tensorflow.js是google推出的一个开源的基于JavaScript的机器学习库，相对与基于其他语言的tersorflow库，它的最特别之处就是允许我们直接把模型的训练和数据预测放在前端，置于浏览器内。 本文会用一个简单的demo介绍如何从零开始训练一个tensorflow模型，并在浏览器内实现手写数字识别，最终效果大约如下： 手写数字识别示例 本文会假设你有基本的python和JavaScript的知识。项目的完整代码参考github。 准备 项目代码的目录.
C++编程实现的手写数字识别
05-07
C++编程实现的手写数字识别
手写数字识别：实验报告
05-30
AIstudio手写数字识别项目的实验报告，报告中有代码链接。文档包括： 1.数据预处理 2.数据加载 3.网络结构尝试：简单的多层感知器、卷积神经网络LeNet-5、循环神经网络RNN、Vgg16 4.损失函数：平方损失函数、交叉...
matlab：KNN实现手写数字识别
05-18
本资源实现了KNN算法应用手写数字识别案例，利用KNN算法的简单原理解决如何识别数字。本资源利用数字图片的二值化值作为特征，进行特征提取。通过训练集的二值化特征与测试集的二值化特征的欧式距离，通过排序，选取...
Matlab手写数字识别
07-13
利用matlab制作的手写数字识别系统、代码可读性强，结构清晰、GUI运行界面、在Matlab R2014b下编辑完成，有手写版，也可导入图片识别。
机器学习笔记——从手写数字识别开始
m0_56010727的博客
07-03 1655
文章目录前言监督学习全连接神经网络的实现决策树以及随机森林的实现卷积神经网络的实现支持向量机的实现无监督学习K-means聚类的实现SVD矩阵分解的实现总结 前言 这是作者的第一篇博客，作为初学者将自己大一下学期进行的机器学习内容进行一个简单的整理，并且尝试使用多种方法实现手写minst数字识别项目。 作者自2021年4月，根据本校一位老师的学习指导，至7月假期，课余进行了一些基本机器学习算法的学习，从最基础的线性回归开始，直至后续的随机决策森林，朴素贝叶斯以及简单的CNN等。由于均系课余时间学习，算法
初识神经网络——手写数字识别
ximu__l的博客
07-16 1156
初识神经网络，手写数字识别程序解析和完整代码
完整代码及解析！！手写数字识别系统(手写数字测试识别 + pytoch实现 + 完整代码及解析)
科研小呆瓜的博客
08-06 1万+
基于深度学习pytorch实现的手写数字识别系统，包含完成的代码及代码解析，包括使用手写数字图像测试模块
神经网络之手写数字识别
热门推荐
盼盼的博客
05-05 2万+
神经网络之手写数字 文章目录神经网络之手写数字00. 写在之前01. 代码框架02. 开始做一些准备工作03. 框架的开始04. 训练模型构建05. 手写数字的识别06. 想看源码的同学戳这里07. 思考 首先鼓掌，又是一个有收获的五一小假期，想前年五一出门旅游，去年五一疫情在家写了爬虫【就是我博客里的那个口袋妖怪】，这个五一就写了一个神经网络。 代码参考学习于python神经网络编程这本书。实话实说，这本书看了好几次，之前打算写来着，但不知道为什么总是不敢轻易尝试，今天把五一的任务的任务都完成了，早上就想
Tensorflow.js||使用 CNN 识别手写数字
一只羊驼没有毛的博客
12-06 1791
使用 CNN 识别手写数字 构建一个 **TensorFlow.js** 模型，以使用卷积神经网络识别手写数字。**首先**，我们将通过让分类器“观察”数千个手写数字图片及其标签来训练分类器。**然后**，我们会使用模型从未见过的测试数据来评估该分类器的准确性。该任务被视为分类任务，因为我们会训练模型以将类别（出现在图片中的数字）分配给输入图片。我们将通过显示输入的多个示例和正确的输出来训练模型。这称为**监督式学习**。
TensorFlow.js - 使用 CNN(卷积神经网络) 识别手写数字
tiantianzs的博客
01-19 519
目录 index.html data.js script.js 备注 参考文献 index.html <!DOCTYPE html> <html> <head> <meta charset="utf-8"> <meta http-equiv="X-UA-Compatible" content="Google Chrome"> <meta name="viewport" content="width=device-w
03_深度学习实现手写数字识别（python）
suren_jun的博客
09-13 5008
本次项目采用了多种模型进行测试，并尝试策略来提升模型的泛化能力，最终取得了99.67%的准确率，并采用pyqt5来制作可视化GUI界面进行呈现。具体代码已经开源。
手写数字图像识别
weixin_39107270的博客
07-11 1507
1 目标 通过KNN算法对手写数字图像进行识别。 2 思路 （1） 删除train文件夹中标签与图像明显错误的样本； （2） 样本格式多种多样，将样本统一处理成 28*28 位深度为8； （3） 将图像样本转换为txt格式； （4） 将所用样本转换为数组矩阵,形成训练样本； （5） 提取文件名的首字符，形成label； （6） 基于KNN算法，在训练集上训练，并保存训练好的模型“knn.pkl”； （7） 基于训练好的模型，在测试集上测试 3 理论基础 3.1 KNN 算法 KNN作为一种有监督分类算法，是
手写数字识别网络代码实现
m0_67926259的博客
11-21 361
手写数字识别网络的代码实现
手写数字识别 c++
最新发布
12-21
手写数字识别是指利用计算机视觉技术，识别手写数字的能力。通常，手写数字识别是利用机器学习和深度学习技术来训练模型，使其能够从输入的数字图像中识别出相应的数字。 在手写数字识别过程中，首先需要采集大量的手写数字数据，然后将这些数据用来训练模型。常用的机器学习算法有支持向量机（SVM）、k最近邻（KNN）和随机森林等，而深度学习算法中的卷积神经网络（CNN）则被广泛应用于手写数字识别任务中。 当输入一张手写数字图像时，模型会对图像进行特征提取和数学运算，然后输出对应的数字标签。整个过程中，模型会不断地进行反向传播和调整参数，以提高识别准确率。 手写数字识别技术在很多领域都有着广泛的应用，比如自动邮件分拣、手写数字输入、银行支票处理等。此外，随着智能手机和平板电脑的普及，手写数字识别技术也越来越多地应用于手写输入的识别和转换，提供了便捷的输入方式。 总的来说，手写数字识别是一项非常有挑战性的技术，它在人工智能、计算机视觉和模式识别等领域有着广阔的发展前景，将为我们的生活和工作带来更多便利。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

身在江湖的郭大侠

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值