动手学深度学习——图像分类数据集

该文介绍了如何下载和加载FashionMNIST数据集,包括使用torchvision.datasets.FashionMNIST,进行数据预处理如转换为张量并归一化,以及使用DataLoader进行多进程读取。此外,还提供了可视化样本和查看数据加载时间的辅助函数。
摘要由CSDN通过智能技术生成
  1. 下载FashionMNIST数据集并保存torchvision.datasets.FashionMNIST()
  2. 定义返回FashionMNIST的10个类别get_fashion_mnist_labels()
  3. 创建一个函数来可视化样本show_images()
  4. 使用4个进程来读取数据 get_dataloader_workers()
  5. 读取训练数据所用时间d2l.Timer()
  6. 整合所有组件load_data_fashion_mnist():将数据集转为张量;调整图像大小;保存训练数据和测试数据集
%matplotlib inline
import torch
import torchvision
from torch.utils import data
from torchvision import transforms
from d2l import torch as d2l

d2l.use_svg_display()

# 通过ToTensor实例将图像数据从PIL类型变换成32位浮点数格式
# 并除以255使得所有像素的均值均在0~1之间
trans = transforms.ToTensor()
mnist_train = torchvision.datasets.FashionMNIST(
    root="../data", train=True, transform=trans, download=True)
mnist_test = torchvision.datasets.FashionMNIST(
    root="../data", train=False, transform=trans, download=True)


# Fashion-MNIST中包含的10个类别
def get_fashion_mnist_labels(labels): #@save
    """返回Fashion_MNIST数据集的标签"""
    text_labels = ['t-shirt', 'trouser', 'pullover', 'dress', 'coat',
                   'sandal', 'shirt', 'sneaker', 'bag', 'ankle boot']
    return [text_labels[int(i)] for i in labels]


"""
    创建一个函数来可视化样本: 
    1、设置画布图形大小figsize:[行数*1.5,列数*1.5],好用来装填样本图像
    2、根据行数列数确定轴,将轴展开
    3、对图像进行遍历,如果图像是张量,根据数值画图;如果是PIL格式(C × H × W),直接画图
    4、显示图像的标题
"""
def show_images(imgs, num_rows, num_cols, titles=None, scale=1.5): #@save
    """绘制图像列表"""
    # 画布大小:[行数*1.5,列数*1.5]
    figsize = (num_cols * scale, num_rows * scale)
    
    # subplots:一次性创建并返回所有的子图和其 axe 对象。
    _, axes = d2l.plt.subplots(num_rows, num_cols, figsize=figsize)
    
    axes = axes.flatten()
    for i, (ax, img) in enumerate(zip(axes, imgs)):
        if torch.is_tensor(img):
            # 图片张量
            ax.imshow(img.numpy())
        else:
            # PIL图片
            ax.imshow(img)
        ax.axes.get_xaxis().set_visible(False)
        ax.axes.get_yaxis().set_visible(False)
        if titles:
            ax.set_title(titles[i])
    return axes


# 读取小批量
batch_size = 256
def get_dataloader_workers(): #@save
    """使用4个进程来读取数据"""
    return 4

train_iter = data.DataLoader(mnist_train, batch_size, shuffle=True,
                                 num_workers=get_dataloader_workers())


# 读取训练数据所用时间
timer = d2l.Timer()
for X,y in train_iter:
    continue
f'{timer.stop():.2f} sec'


"""
    整合所有组件:
    1、将数据集转换为张量
    2、调整图像大小
    3、将训练集打乱顺序,保存训练和测试数据集
"""
def load_data_fashion_mnist(batch_size, resize=None): #@save
    """下载Fashion-MNIST数据集,然后将其加载到内存中"""
    trans = [transforms.ToTensor()]
    if resize:
        trans.insert(0, transforms.Resize(resize))
    trans = transforms.Compose(trans)
    mnist_train = torchvision.datasets.FashionMNIST(
        root="../data", train=True, transform=trans, download=True)
    mnist_test = torchvision.datasets.FashionMNIST(
        root="../data", train=False, transform=trans, download=True)
    return (data.DataLoader(mnist_train, batch_size, shuffle=True,
                            num_workers=get_dataloader_workers()),
            data.DataLoader(mnist_test, batch_size, shuffle=False,
                            num_workers=get_dataloader_workers()))
  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值