mnist学习实例(2)

环境: Ubuntu 18.04, tensorflow 2.4.1

该版本是全连接网络的优化版本，采用了卷积神经网络，参考。
可以看到BATCH_SIZE没有改动，而EPOCH明显减少。
但是EPOCH一轮的时间明显增长了很多。

代码

import tensorflow as tf
import numpy as np
from tensorflow import keras

EPOCH = 15
BATCH_SIZE = 128
VERBOSE = 1
NUM_CLASSES = 10


# the data, split between train and test sets
(x_train, y_train), (x_test, y_test) = keras.datasets.mnist.load_data()

# Scale images to the [0, 1] range
x_train = x_train.astype("float32") / 255
x_test = x_test.astype("float32") / 255
# Make sure images have shape (28, 28, 1)
x_train = np.expand_dims(x_train, -1)
x_test = np.expand_dims(x_test, -1)
print("x_train shape:", x_train.shape)
print(x_train.shape[0], "train samples")
print(x_test.shape[0], "test samples")

# convert class vectors to binary class matrices
y_train = keras.utils.to_categorical(y_train, NUM_CLASSES)
y_test = keras.utils.to_categorical(y_test, NUM_CLASSES)


## build network
model = tf.keras.Sequential(
    [
        tf.keras.Input(shape=(28, 28, 1)),
        tf.keras.layers.Conv2D(32, kernel_size=(3, 3), activation="relu"),
        tf.keras.layers.MaxPooling2D(pool_size=(2, 2)),
        tf.keras.layers.Conv2D(64, kernel_size=(3, 3), activation="relu"),
        tf.keras.layers.MaxPooling2D(pool_size=(2, 2)),
        tf.keras.layers.Flatten(),
        tf.keras.layers.Dropout(0.5),
        tf.keras.layers.Dense(NUM_CLASSES, activation="softmax"),
    ]
)

model.summary()

## compile network
model.compile(loss="categorical_crossentropy", optimizer="adam", metrics=["accuracy"])
model.fit(x_train, y_train, batch_size=BATCH_SIZE, epochs=EPOCH, validation_split=0.1)

## validation  0.991
val_loss,val_acc = model.evaluate(x_test, y_test, verbose=VERBOSE)
print("Test loss: ", val_loss)
print("Test accuracy: ", val_acc)

model summary解读

输入层是 （，28，28，1）4维张量，分别是数量，长度，宽度，通道（灰度）

第一层conv2d

• kernel_size=(3,3)
  因为输入时长宽相等，我们就看一边。 没有指定strides，默认为1，
  $$(28-3)/1+1=26$$
• filter=32
  表示有32个kernel，每个kernel在原张量上卷积后，都会有一个结果，所以最后一维就是32.
  这个就是第一层conv2dshape（,26,26,32)的由来。
• param个数
  $$((核宽\ast 核高)\ast 通道数+1)\ast 卷积核数$$注：+1是因为一个bias
  $$((3\ast 3)\ast 1+1)\ast 32=320$$

第二层pooling

它主要是做收缩，所以不产生新的param。
pool_size=(2, 2)，所以shape变成 （,13,13,32)

第三层conv2d

• kernel_size=(3, 3)
  $$(13-3)/1+1=11$$
• filter=64
  所以shape为（,11,11,64)
• param个数
  $$（（核宽\ast 核高）\ast 通道数+1）\ast 卷积核数$$ 注：这一层的通道数就是上层卷积核数
  $$((3\ast 3)\ast 32+1)\ast 64=18496$$

Flatten层

其实就是将多维张量变为一维输入，所以
$$5\ast 5\ast 64=1600$$

dropout层都改变shape

最后dense层

• param个数
  $$（通道数+1）\ast 输出数$$
  $$(1600+1)\ast 10=16010$$

Total Param直观地体现了整体训练的时长

占用资源怎么样？

在云端上使用单虚拟核，1G内存是跑不了的，主要是内存不够。mnist跑起来大概需要1G+内存。

---

一些尝试

上面的样例，在15epoch跑下来，accuracy大致为0.991, 它比全连接网络确实准确了很多。

那么究竟增加卷积层带来了多少优化呢，在这里我们尝试做一些改动试一下。

---

TEST 1. 去除一层卷积层

我们把两层卷积层中的第二层去除，看一下效果。
accuracy: 0.9831
准确度降低了约0.7%，从summary来看，时间（训练params个数）反而增加了。

另外，因为mnist数据集中的图片较小，卷积层对它特征提取效果与层数应该增加没有太大关联。

TEST 2. 去除每层卷积层的Pooling

accuracy: 0.9968
准确度基本没有变化，但是时间（参数）指数级增长了

TEST 3. 去除Dropout层

accuracy: 0.9868
根据前面的说明，可以看到dropout并不改变model的shape也不会减少训练的参数个数。
所以时间虽然跟TEST 2一样，但是效果没有上面的好

TEST 4. 只留一层Conv并修改Conv层kernel参数

kernel_size=(3, 3) 改为kernel_size=(5, 5)
将kernel增加，是会增加该层的param的，所以虽然整体只有一层Conv2D，但是最终的训练参数比标准网络要多一个数量级

accuracy: 0.9871结果跟TEST 1差不多

TEST 5 只留一层Conv和Pooling并修改Conv层kernel参数

与 TEST 4的区别就是，保留了Pooling层，其他都一致。

accuracy: 0.987结果也差不多

但可见参数数据量明显下降一个数量级，Pooling的作用还是很凸显的。

TEST 6. 只留一层Conv和Pooling，并修改Conv层filter参数

filter=32 改为filter=8

accuracy: 0.9809

TEST 7. 只留一层Conv和Pooling，修改pooling参数

pool_size=(2, 2) 改为pool_size=(5, 5))

accuracy: 0.977这个结果较原网络差了快2%，但是训练的参数最少，比原网络少了一个数量级