《动手深度学习》从零实现softmax之——图像分类数据集的处理

图像分类数据集的处理(后续常用)

Fashion-MNIST

MNIST数据集 [LeCun et al., 1998] 是图像分类中广泛使用的数据集之一，但作为基准数据集过于简单。 我们将使用类似但更复杂的Fashion-MNIST数据集 [Xiao et al., 2017]。

读取数据集

%matplotlib inline
import torch
import torchvision
from torch.utils import data
from torchvision import transforms
from d2l import torch as d2l
d2l.use_svg_display() #d2l自定义函数：以矢量图svg形式输出

# 通过ToTensor实例将图像数据从PIL类型变换成32位浮点数格式，
# 并除以255使得所有像素的数值均在0到1之间
mnist_train = torchvision.datasets.FashionMNIST(
    root = "E:/Coding/Jupyter/data", train = True, transform = transforms.ToTensor(), download=True)
mnist_test = torchvision.datasets.FashionMNIST(
    root = "E:/Coding/Jupyter/data", train = False, transform = transforms.ToTensor(), download=True)

• Fashion-MNIST由10个类别的图像组成， 每个类别由训练数据集（train dataset）中的60000张图像 和测试数据集（test dataset）中的10000张图像组成。
• 因此，训练集和测试集分别包含60000和10000张图像。 测试数据集不会用于训练，只用于评估模型性能。
  
• 每个输入图像的高度和宽度均为28像素,数据集由灰度图像组成，其通道数为1。 之后将高度像素、宽度像素图像的形状记为h$\times$w或（h,w）。
• Fashion-MNIST中包含的10个类别，分别为t-shirt（T恤）、trouser（裤子）、pullover（套衫）、dress（连衣裙）、coat（外套）、sandal（凉鞋）、shirt（衬衫）、sneaker（运动鞋）、bag（包）和ankle boot（短靴）。 以下函数用于在数字标签索引及其文本名称之间进行转换。

def get_fashion_mnist_labels(labels):  #@save
    """返回Fashion-MNIST数据集的文本标签"""
    text_labels = ['t-shirt', 'trouser', 'pullover', 'dress', 'coat',
                   'sandal', 'shirt', 'sneaker', 'bag', 'ankle boot']
    return [text_labels[int(i)] for i in labels]

• 浅浅绘制一下train集中的前两张图片看看吧(不使用d2l库)

X1, y1 = mnist_train[0] #取第一张图片的数据，X为像素矩阵，y为图像类别
X2, y2 = mnist_train[1]
import matplotlib.pyplot as plt
plt.figure(0)
plt.imshow(X1.numpy().squeeze())#X为[1,28,28]不能直接输出为图像，squeeze()去除第一维1，变为[28,28]
plt.title(get_fashion_mnist_labels([y1,y2])[0])#将图像类别序号转换为文本名称
plt.figure(1)
plt.imshow(X2.numpy().squeeze())
plt.title(get_fashion_mnist_labels([y1,y2])[1])

小批量数据可视化(不需要d2l库)

• 创建一个函数来可视化这些样本。

def show_images(imgs, num_rows, num_cols, titles=None, scale=1.5):  #@save
    """绘制图像列表
    参数：imgs即数据集中各个图片的像素矩阵，即mnist_train[i][0]；
          num_rows, num_cols 展示图片时的行列值，如下设置为3行6列
          titles 图片的类别; scale各子图的尺寸
    """
    figsize = (num_cols * scale, num_rows * scale) #整图的size
    fig, axes = plt.subplots(num_rows, num_cols, figsize=figsize) #axes对应划分出来的每一个子图对应的轴空间
    axes = axes.flatten() #展开为一个向量
    for i, (ax, img) in enumerate(zip(axes, imgs)):
        if torch.is_tensor(img):
            # 图片张量
            ax.imshow(img.numpy())
        else:
            # PIL图片
            ax.imshow(img)
        ax.axes.get_xaxis().set_visible(False) #是否显示绘图轴x 
        ax.axes.get_yaxis().set_visible(False) #轴y 
        if titles:
            ax.set_title(titles[i])
    return axes

• 取每个小批量大小为18，以3行6列显示：

X, y = next(iter(data.DataLoader(mnist_train, batch_size=18)))
show_images(X.reshape(18, 28, 28), 3, 6, titles=get_fashion_mnist_labels(y));

读取小批量数据data.DataLoader

使用内置的数据迭代器data.DataLoader

batch_size = 256

def get_dataloader_workers():  #@save
    """使用4个进程来读取数据"""
    return 4

train_iter = data.DataLoader(mnist_train, batch_size, shuffle=True, num_workers=get_dataloader_workers())

整合为完整的读取数据的方法

• 定义load_data_fashion_mnist函数，用于获取和读取Fashion-MNIST数据集。
• 这个函数返回训练集和验证集的数据迭代器。 此外，这个函数还接受一个可选参数resize，用来将图像大小调整为另一种形状。

def load_data_fashion_mnist(batch_size, resize=None):  #@save
    """下载Fashion-MNIST数据集，然后将其加载到内存中"""
    trans = [transforms.ToTensor()]
    if resize:
        trans.insert(0, transforms.Resize(resize))
    trans = transforms.Compose(trans)
    mnist_train = torchvision.datasets.FashionMNIST(root="E:/Coding/Jupyter/data", train=True, transform=trans, download=True)
    mnist_test = torchvision.datasets.FashionMNIST(root="E:/Coding/Jupyter/data", train=False, transform=trans, download=True)
    return (data.DataLoader(mnist_train, batch_size, shuffle=True,num_workers=get_dataloader_workers()),
            data.DataLoader(mnist_test, batch_size, shuffle=False,num_workers=get_dataloader_workers()))

• 可选参数resize：将图像大小调整为另一种形状，比如28x28变成32x32。

train_iter, test_iter = load_data_fashion_mnist(32, resize=64)
for X, y in train_iter:
    print(X.shape, X[0].shape, X.dtype, y.shape, y.dtype)
    break

python基础语法

plt.subplots()的使用

• plt.subplots()是一个函数，返回一个包含figure和axes对象的元组。
• 使用fig,ax =
  plt.subplots()将元组分解为fig和ax两个变量。通常，我们只用到ax.

fig,ax = plt.subplots(nrows=2, ncols=2)
axes = ax.flatten()

• 把父图分成2*2个子图，**ax.flatten()**把子图展开赋值给axes, axes[0]是第一个子图，axes[1]是第二个…

CSDN话题挑战赛第2期
参赛话题：学习笔记