手写数字识别（深度学习小实践）

小白学习ing

---

前言

非常简单的深度学习小实践，没有用框架，仅使用简单的Python。
参考书籍《深度学习入门：基于Python的理论与实现》

---

一、神经网络学习与实践

1. 学习

训练数据进行权重参数的学习

2. 推理

使用学习到的参数，对输入数据进行分类

二、手写数字识别

1、读入mnist数据集（学习）

• mnist手写数字图像集是著名的数据集之一。图像数据是28像素×28像素的灰度图像，每个图像都有对应其数字的标签。
• python脚本mnist.py支持将下载的mnist数据集转化成numpy数组，用mnist.py中的load_mnist()函数轻松读入mnist数据。这里的mnist.py在父目录文件中。

load_mnist()函数的三个参数

1.normalize将输入图像正规化为0.0~1.0的值,可以实现输入数据的预处理

2.flatten保存为一维数组

3.one_hot_label保存为one-hot编码

• python的pickle功能
  • 第一次加载保存为pickle文件，在第2次及以后读入时，可以高效读入
  • 学习到的参数权重保存在pkl文件中，推理阶段可以直接加载

import sys, os
sys.path.append(os.pardir)  # 为了导入父目录的文件而进行的设定
import numpy as np
from dataset.mnist import load_mnist
from PIL import Image

def img_show(img):
    pil_img = Image.fromarray(np.uint8(img))
    pil_img.show()

(x_train, t_train), (x_test, t_test) = load_mnist(flatten=True, normalize=False)
# （训练图像，训练标签），（测试图像，测试标签）

img = x_train[0]
label = t_train[0]
print(label)  # 5

print(img.shape)  # (784,)
img = img.reshape(28, 28)  # 把图像的形状变为原来的尺寸。reshape()更改Numpy数组的形状
print(img.shape)  # (28, 28)

img_show(img)

2、神经网络的推理

get_data()函数：获取测试图像和标签
init_network()函数：从pkl文件中获取学习到的权重参数
predict()函数：搭建神经网络

目标： 计算识别的准确度

import sys, os
sys.path.append(os.pardir)  # 为了导入父目录的文件而进行的设定
import numpy as np
import pickle
from dataset.mnist import load_mnist
from common.functions import sigmoid, softmax

def get_data():
    (x_train, t_train), (x_test, t_test) = load_mnist(normalize=True, flatten=True, one_hot_label=False)
    return x_test, t_test

def init_network():
    with open("sample_weight.pkl", 'rb') as f:
        network = pickle.load(f)
    return network

def predict(network, x):
    W1, W2, W3 = network['W1'], network['W2'], network['W3']
    b1, b2, b3 = network['b1'], network['b2'], network['b3']
    a1 = np.dot(x, W1) + b1
    z1 = sigmoid(a1)
    a2 = np.dot(z1, W2) + b2
    z2 = sigmoid(a2)
    a3 = np.dot(z2, W3) + b3
    y = softmax(a3)
    return y

x, t = get_data()
network = init_network()
accuracy_cnt = 0
for i in range(len(x)):
    y = predict(network, x[i])
    p= np.argmax(y) # 获取概率最高的元素的索引
    if p == t[i]:
        accuracy_cnt += 1

print("Accuracy:" + str(float(accuracy_cnt) / len(x)))

改进→批处理

输入数据的集合称为批。通过以批为单位进行推理处理，能够实现高速的运算。

x, t = get_data()
network = init_network()

batch_size = 100 # 批数量
accuracy_cnt = 0

for i in range(0, len(x), batch_size):
    x_batch = x[i:i+batch_size]
    y_batch = predict(network, x_batch)
    p = np.argmax(y_batch, axis=1)
    accuracy_cnt += np.sum(p == t[i:i+batch_size])

print("Accuracy:" + str(float(accuracy_cnt) / len(x)))