读取CIFAR10数据集的数据并进行展示

CIFAR-10 是由 Hinton 的学生 Alex Krizhevsky 和 Ilya Sutskever 整理的一个用于识别普适物体的小型数据集。一共包含 10 个类别的 RGB 彩色图 片:飞机( a叩lane )、汽车( automobile )、鸟类( bird )、猫( cat )、鹿( deer )、狗( dog )、蛙类( frog )、马( horse )、船( ship )和卡车( truck )。图片的尺寸为 32×32 ,数据集中一共有 50000 张训练圄片和 10000 张测试图片。

这里我们使用python读取CIFAR10其中的一部分数据并进行展示

import torch
import torchvision
import torch.nn as nn
from torchvision import transforms
from torchvision.utils import save_image
from torch.utils.data import DataLoader
import matplotlib.pyplot as plt
import numpy as np
torch.cuda.set_device(0)
device = torch.device('cuda' if torch.cuda.is_available() else 'cpu')

batch_size = 10
Epochs = 20


trans = torchvision.transforms.Compose([transforms.ToTensor(), transforms.Normalize((0.5,0.5,0.5),(0.5,0.5,0.5))])
cifar_10 = torchvision.datasets.CIFAR10(root='./data', train=True, transform=trans, download=False)
data_loader = DataLoader(cifar_10, batch_size=batch_size, shuffle=True)

def imshow(img):

    #反归一化,将数据重新映射到0-1之间
    img = img / 2 + 0.5
    plt.imshow(np.transpose(img.numpy(), (1,2,0)))
    plt.show()


for i, (images, _) in enumerate(data_loader):

    print(i)
    print(images.numpy().shape)
    imshow(images[0])
    break



  • ToTensor()可以将数据映射到0-1的范围内,方便进行计算,Normalize()通过设置均值和方差,可以将数据再次映射到-1到1之间,如原来的0有,(0 - 0.5) / 0.5 = -1 (1 - 0.5) / 0.5 = 1,得到最终映射后的结果
  • 但是在后面进行操作的时候,由于像素的值不可能是负值,所以我们还要进行反归一化操作,将数据重新映射到0-1范围内,具体方式是就是原来的数据除以2再加0.5 ,如:(-1/2) + 0.5 = 0 (1/ 2) + 0.5 = 1,可以将数据重新映射到0-1范围内
  • 经网络输出的图像一般的格式为(3,32,32),分别表示通道的数量,图像的宽度与高度,但是plt在显示的时候按照(32,32,3)的方式来进行读取,分别表示宽度,高度,通道的数量,所以使用np.transpose(1,2,0)来对每个维度的数据俩进行转换

显示的图像如图所示:
在这里插入图片描述
它的像素只是32*32的,像素值过低,所以显示的不是很清楚,我们可以将多张图片做成Grid的形式来展示,代码如下:

import torch
import torchvision
import torch.nn as nn
from torchvision import transforms
from torchvision.utils import save_image
from torch.utils.data import DataLoader
import matplotlib.pyplot as plt
import numpy as np
torch.cuda.set_device(0)
device = torch.device('cuda' if torch.cuda.is_available() else 'cpu')

batch_size = 50
Epochs = 20

trans = torchvision.transforms.Compose([transforms.ToTensor(), transforms.Normalize((0.5,0.5,0.5),(0.5,0.5,0.5))])
cifar_10 = torchvision.datasets.CIFAR10(root='./data', train=True, transform=trans, download=False)
data_loader = DataLoader(cifar_10, batch_size=batch_size, shuffle=True)

def imshow(img):

    #反归一化,将数据重新映射到0-1之间
    img = img / 2 + 0.5

    plt.imshow(np.transpose(img.numpy(), (1,2,0)))

    plt.show()


for i, (images, _) in enumerate(data_loader):

    print(i)
    print(images.numpy().shape)
    imshow(torchvision.utils.make_grid(images))
    break

得到的图像如下所示:
在这里插入图片描述

这些图像都是随机地从原来的数据集中提取的

  • 5
    点赞
  • 8
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
### 回答1: Python可以使用以下步骤读取CIFAR-10数据集: 1. 下载CIFAR-10数据集并解压缩。 2. 使用Python的pickle模块读取数据集文件。 3. 将读取数据集转换为NumPy数组。 4. 对数据集进行预处理,例如归一化和标准化。 以下是一个示例代码: ```python import pickle import numpy as np # 读取CIFAR-10数据集 def load_cifar10_data(path): with open(path, 'rb') as f: cifar10 = pickle.load(f, encoding='bytes') # 将数据集转换为NumPy数组 X = np.array(cifar10[b'data']) y = np.array(cifar10[b'labels']) return X, y # 对数据集进行预处理 def preprocess_cifar10_data(X): # 归一化 X = X / 255.0 # 标准化 mean = np.mean(X, axis=0) std = np.std(X, axis=0) X = (X - mean) / std return X # 加载训练集和测试集 X_train, y_train = load_cifar10_data('cifar-10-batches-py/data_batch_1') X_test, y_test = load_cifar10_data('cifar-10-batches-py/test_batch') # 对数据集进行预处理 X_train = preprocess_cifar10_data(X_train) X_test = preprocess_cifar10_data(X_test) ``` 希望这可以帮助到你! ### 回答2: CIFAR-10是一个包含10个类别共计60,000张32x32像素彩色图像的数据集,可用于图像分类的基准测试。使用Python读取CIFAR-10数据集需要进行以下步骤: 1. 下载CIFAR-10数据集,可以从网络上找到开源的下载接口,也可以使用Python自带的urllib库。下载后解压缩得到五个数据文件。 2. 使用Python的numpy库读取数据文件。数据文件中是二进制数据,需要借助Numpy库中的fromfile函数将其读入内存。在读取数据之前,需要明确数据的格式。 3. 解析数据文件,将其中的二进制数据转换成图像矩阵。CIFAR-10数据集文件中包含训练集数据文件和测试集数据文件,每个数据文件中数据的组织方式如下:每个样本数据由标签和图像数据组成,标签表明该图像属于哪一分类,图像数据则是一个3x32x32的矩阵,每个数据点是一个0-255的整数,代表颜色值。 4. 加载图像数据至内存中,并对其进行预处理。由于图像数据中每个像素的取值范围在0-255之间,为了避免出现数值范围问题,需要将其进行归一化处理,将其范围缩放到0-1之间。 5. 在数据集加载完毕后,我们对其进行划分,分为训练集和测试集两个部分,一般采用80%来作为训练集,20%的数据作为测试集。 6. 将处理好的数据输入到模型中进行训练。 总之,通过Python读取CIFAR-10数据集是一项比较复杂的工作,需要考虑到数据的格式、读取数据的方式、数据的预处理,以及数据的划分等因素。但是,通过Python语言提供的丰富库函数可以完成这样的任务,并且可以非常方便地对数据进行预处理和划分。 ### 回答3: CIFAR-10 是计算机视觉中广泛使用的一个数据集,包含 60,000 张 32x32 的彩色图像,共分为 10 个类别。这个数据集可以用于训练和测试图像分类模型。在 Python 中,我们可以使用 Tensorflow 或 PyTorch 库来读取 CIFAR-10 数据集。 使用 Tensorflow 读取 CIFAR-10 数据集: 1.导入 TensorFlow 库: ``` import tensorflow as tf ``` 2.定义数据集路径及一些超参数: ``` cifar10 = tf.keras.datasets.cifar10 (train_images, train_labels), (test_images, test_labels) = cifar10.load_data() class_names = ['airplane', 'automobile', 'bird', 'cat', 'deer', 'dog', 'frog', 'horse', 'ship', 'truck'] ``` 3.读取数据集并预处理: ``` # 将像素值归一化到 [0, 1] 的范围内 train_images, test_images = train_images/255.0, test_images/255.0 ``` 4.可视化图像: ``` import matplotlib.pyplot as plt plt.figure(figsize=(10,10)) for i in range(25): plt.subplot(5,5,i+1) plt.xticks([]) plt.yticks([]) plt.grid(False) plt.imshow(train_images[i], cmap=plt.cm.binary) plt.xlabel(class_names[train_labels[i][0]]) plt.show() ``` 使用 PyTorch 读取 CIFAR-10 数据集: 1.导入 PyTorch 库: ``` import torch import torchvision import torchvision.transforms as transforms ``` 2.定义数据集路径及一些超参数: ``` transform = transforms.Compose( [transforms.ToTensor(), transforms.Normalize((0.5, 0.5, 0.5), (0.5, 0.5, 0.5))]) trainset = torchvision.datasets.CIFAR10(root='./data', train=True, download=True, transform=transform) trainloader = torch.utils.data.DataLoader(trainset, batch_size=4, shuffle=True, num_workers=2) testset = torchvision.datasets.CIFAR10(root='./data', train=False, download=True, transform=transform) testloader = torch.utils.data.DataLoader(testset, batch_size=4, shuffle=False, num_workers=2) classes = ('plane', 'car', 'bird', 'cat', 'deer', 'dog', 'frog', 'horse', 'ship', 'truck') ``` 3.读取数据集及预处理: ``` # 不需要特定的代码读取和归一化数据集 ``` 4.可视化图像: ``` import matplotlib.pyplot as plt import numpy as np # 从数据集中随机选择一些图片并可视化 dataiter = iter(trainloader) images, labels = dataiter.next() fig, axes = plt.subplots(1, len(images), figsize=(12,12)) for idx in np.arange(len(images)): ax = axes[idx] image = images[idx] label = labels[idx] ax.imshow(np.transpose(image, (1, 2, 0))) ax.set_title(classes[label]) ax.axis('off') ``` 无论是 Tensorflow 还是 PyTorch,读取 CIFAR-10 数据集的步骤大体相同,只是具体实现方式有所差异。掌握数据集读取方法是进行计算机视觉模型训练和实践的基础,也是开发实用系统的第一步。
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值