详解PASCAL VOC数据集及基于Python和PyTorch的下载、解析及可视化【目标检测+类别分割】

已于 2024-08-27 14:04:19 修改
阅读量570 收藏 9
点赞数 17
分类专栏： 机器学习数据集 文章标签： python pytorch 目标检测
于 2024-08-27 12:12:25 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/KRISNAT/article/details/141598905
版权

目录

请添加图片描述

PASCAL VOC数据集简介

PASCAL VOC数据集是计算机视觉领域中 目标检测（object detection） 任务和 分割（segmentation） 任务的基准数据集。PASCAL VOC数据和比赛发源于由欧盟资助的PASCAL2 Network of Excellence on Pattern Analysis, Statistical Modelling and Computational Learning项目。该比赛从2005年至2012年每年举办一次，并已经于2012年停办。因此，PASCAL VOC数据集是一系列数据集的集合，从2005年至2012年这八年按年发布，每年的数据集可以简写为VOC2005、VOC2006，以此类推。值得注意的是，VOC2007以后便不再发布test数据集。并且PASCAL VOC数据集中的图片来源于flickr网站和Microsoft Research Cambrige (MSRC)数据集，因此使用时要注意遵守flickr的使用条款。

* 笔者认为官方采用PASCAL命名而不是pattern analysis, statistical modelling, and computational learning visual object classes的首字母缩写PASMCL，应该是PASCAL更加简洁和易于识别，因为pascal是物理力学中的标准压力单位。

PASCAL VOC各年份数据集摘要

年份统计数据任务类别备注
20054类别：bicycles、cars、motorbikes、people
1578张图片，2209个标注
子数据集：train、validation、test		classification、segmentation
200610类别：bicycle、bus、car、cat、cow、dog、horse、motorbike、person、sheep
2618张图片、4754个标注
子数据集：train、validation、test		classification、segmentation
200720类别：
person；bird、cat、cow、dog、horse、sheep、aeroplane、bicycle、boat、bus、car、motorbike、train；bottle、chair、dining table、potted plant、sofa、tv/monitor
9963张图片、24640个标注
子数据集：train、validation、test		classification、segmentation、person layout最后一年公开test数据集
类别固定为20个
标注中增加了truncation标签
评价指标由ROC-AUC变为AP
2008同2007的20类别
train+validation子数据集与test子数据集的划分比例约为1:1
4340张图片、10363个标注
子数据集：train、validation		classification、segmentation、person layout标注中添加了Occlusion标签
segementation和person layout子数据集包含VOC2007的数据
2009同2007的20类别
10103张图片、23374个ROI标注、4203个segmentation标注
子数据集：train、validation、test		classification、segmentation、person layout从现在开始图像都包含了前几年的图像和芯图像
2010同2007的20类别
9963张图片、24640个标注、4203个segmentation
子数据集：train、validation		classification、segmentation、person layout计算AP的方法从TREC式变为基于所有点计算
2011同2007的20类别
11530张图片、27450个标注、5034个segmentation
子数据集：train、validation		classification、segmentation、person layout、action classificationaction classification的类别扩展为“10+other”模式
layout标签并不完整，不是所有图片中的所有person均被标注
2012同2007的20类别
11530张图片、27450个标注、6929个segmentation
子数据集：train、validation		classification、segmentation、person layout、action classification使用person身上的参考点注释了action classification数据集

数据集下载

因为VOC2005-VOC2006，数据集的图片数量、物体类别数量都在不断变化。直到2007年，VOC2007的物体类别才固定下来，其所有的标签均比较完善，并且VOC2007也是最后一个数据集发布一个较为完整的test子数据集。在VOC2009-VOC2012期间，test子数据集均没有公开发布，并且图片数量和标签质量均有一定的完善。可以说VOC2012是PASCAL VOC系列数据集最后的一个版本，也是最完善的不包含test子数据集的PASCAL VOC公开数据集。
因此，我们一般使用VOC2007和VOC2012两个数据集。将VOC2007与VOC2012的train/val数据集进行合并，用于模型开发过程中的训练和验证，其共包含16511张图片。然后，单独使用VOC2007的test数据集作为测试，共包含4952张图片。

通过下面官方提供的网址下载

点击下方链接即可下载：

通过PyTorch的API下载

数据集解析

目标检测数据集

VOC2007目标检测数据集下载后的文件夹结构如下【无论直接通过URL下载还是PyTorch的API解压后都应是如此！】：

VOCdevkit/VOC2007/
├─ Annotations/
│  ├─ 000001.xml
│  ├─ 000002.xml
│  └─ ...
├─ ImageSets
│  ├─ Layout/
│  │  ├─ train.txt
│  │  ├─ trainval.txt
│  │  └─ val.txt
│  ├─ Main/
│  │  ├─ aeroplane_train.txt
│  │  ├─ aeroplane_trainval.txt
│  │  ├─ aeroplane_val.txt
│  │  └─ ...
│  └─ Segmentation/
│     ├─ train.txt
│     ├─ trainval.txt
│     └─ val.txt
├─ JPEGImages
│  ├─ 000001.jpg
│  ├─ 000002.jpg
│  └─ ...
├─ SegmentationClass
│  ├─ 000001.png
│  ├─ 000002.png
│  └─ ...
└─ SegmentationObject
   ├─ 000001.png
   ├─ 000002.png
   └─ ...

目标检测使用torchvision.datasets.VOCDetectionAPI下载、解压和读取。它将加载JPEGImagesw文件夹下面的JPEG图片并范围PIL.Image对象，同时加载Annotations子文件夹下的XML文件并返回Python字典作为标签。

一个加载图片并显示目标检测数据的Python脚本如下：

#!/usr/bin/env python3
# -*- encoding utf-8 -*-

'''
@File: **
@Date: 2024-08-27
@Author: KRISNAT
@Version: 0.0.0
@Email: **
@Copyright: (C)Copyright 2024, KRISNAT
@Desc: None
'''
import cv2
import PIL.Image
import matplotlib.pyplot as plt
from torchvision.datasets import VOCDetection
import numpy as np

# Download or load VOC2007 for detection task from local file
voc2007_dec_trainval = VOCDetection(
    root='voc',
    year='2007',
    image_set='train',
    download=True,
)

# Define a function to draw bounding box onto the image
def draw_bndbox(image: PIL.Image, object = None) -> PIL.Image:
    """draw the bounding box of the PASCAL VOC image"""
    if object is None:
        return image
    img_cv2 = cv2.cvtColor(np.asanyarray(image), cv2.COLOR_RGB2BGR)  # convert PIL.Image RGB to cv2 BGR
    if isinstance(object, dict):  # only one object
        name = object["name"]
        pose = object["pose"]
        xmin = int(object["bndbox"]["xmin"])
        ymin = int(object["bndbox"]["ymin"])
        xmax = int(object["bndbox"]["xmax"])
        ymax = int(object["bndbox"]["ymax"])
        img_cv2 = cv2.rectangle(img_cv2, (xmin, ymin), 
            (xmax, ymax), (0, 0, 255))  # red retangle
        img_cv2 = cv2.putText(img_cv2, name + ", " + pose, (xmin, ymin), 
                cv2.FONT_HERSHEY_COMPLEX, 1, (0, 0, 255), 1, cv2.FILLED)
    elif isinstance(object, list):  # multiple objects
        for obj in object:  # here, object is a list
            name = obj["name"]
            pose = obj["pose"]
            xmin = int(obj["bndbox"]["xmin"])
            ymin = int(obj["bndbox"]["ymin"])
            xmax = int(obj["bndbox"]["xmax"])
            ymax = int(obj["bndbox"]["ymax"])
            img_cv2 = cv2.rectangle(img_cv2, (xmin, ymin), 
                (xmax, ymax), (0, 0, 255))  # red retangle
            img_cv2 = cv2.putText(img_cv2, name + ", " + pose, (xmin, ymin), 
                cv2.FONT_HERSHEY_COMPLEX, 1, (0, 0, 255), 1, cv2.FILLED)
    else:
        raise "object can only be dict or list."
    
    return PIL.Image.fromarray(cv2.cvtColor(img_cv2, cv2.COLOR_BGR2RGB))


if __name__ == "__main__":
    # show the firt four images and targets
    fig = plt.figure(figsize=(10, 9))
    fig.suptitle("The first four images and labels"
                " \nof VOC2007 train dataset for Dectction in PyTorch")
    for idx, (image, label) in enumerate(voc2007_dec_trainval):
        filename = label["annotation"]["filename"]
        img_size = (label["annotation"]["size"]["width"], 
                    label["annotation"]["size"]["height"], 
                    label["annotation"]["size"]["depth"])
        
        # Be carefull: Ff the were only one object, you would get a Python dict
        # object, otherwise, you would get a list dict list of objects
        object = label["annotation"]["object"]
        xlabel = filename + "\n" + str(img_size).replace("'", '')
        ax = fig.add_subplot(2, 2, idx + 1)
        image_show = draw_bndbox(image, label["annotation"]["object"])
        ax.imshow(image_show)
        ax.set_xlabel(xlabel)

        # disable the ticks and frame of the axes
        ax.set_frame_on(False)
        ax.set_xticks([])
        ax.set_yticks([])

        # only read the first four images and labels
        if idx >= 3:
            break
    
    # plt.show()
    plt.savefig("PASCAL VOC Detection.jpg", bbox_inches='tight')  # Save the result

执行结果如下：

请添加图片描述

物体分割数据集

目标检测使用torchvision.datasets.VOCSegmentationAPI下载、解压和读取。它将加载JPEGImagesw文件夹下面的JPEG图片并范围PIL.Image对象，同时加载SegmentationClass子文件夹下的PNG文件并返回PIL.PngImagePlugin.PngImageFile对象作为掩膜标签。注意：torchvision.datasets.VOCSegmentation默认没有使用SegmentationObject目录下的实例分割掩膜，而是使用的SegmentationClass目录下的语义分割掩膜。

  • 语义分割数据中掩膜的像素值代表了不同类别：
    • 0=background
    • 1=aeroplane
    • 2=bicycle
    • 3=bird
    • 4=boat
    • 5=bottle
    • 6=bus
    • 7=car
    • 8=cat
    • 9=chair
    • 10=cow
    • 11=dining table
    • 12=dog
    • 13=horse
    • 14=motorbike
    • 15=person
    • 16=pottled plant
    • 17=sheep
    • 18=sofa
    • 19=train
    • 20=tv/monitor
    • 255=void or unlabelled

一个加载图片并显示类别分割数据的Python脚本如下：

#!/usr/bin/env python3
# -*- encoding utf-8 -*-

'''
@File: **
@Date: 2024-08-27
@Author: KRISNAT
@Version: 0.0.0
@Email: **
@Copyright: (C)Copyright 2024, KRISNAT
@Desc: None
'''
import PIL.Image
import matplotlib.pyplot as plt
from torchvision.datasets import VOCSegmentation
import numpy as np

# Download or load VOC2007 for detection task from local file
voc2007_seg_trainval = VOCSegmentation(
    root='voc',
    year='2007',
    image_set='train',
    download=True,
)

# Define a function to draw bounding box onto the image
def draw_mask(image: PIL.Image, target: PIL.Image = None) -> PIL.Image:
    """draw the mask for segmentation of the PASCAL VOC image"""
    # define a color map for mask object
    color_map ={
        0: (0, 0, 0, 128),  # background, black
        1: (247, 116, 95, 128),  # aeroplane
        2: (232, 129, 49, 128),  # bicycle
        3: (208, 142, 49, 128),  # bird
        4: (190, 150, 49, 128),  # boat
        5: (173, 156, 49, 128),  # bottle
        6: (173, 156, 49, 128),  # bus
        7: (155, 162, 49, 128),  # car
        8: (134, 167, 49, 128),  # cat
        9: (99, 174, 49, 128),  # chair
        10: (49, 178, 82, 128),  # cow
        11: (51, 176, 122, 128),  # dining table
        12: (52, 174, 142, 128),  # dog
        13: (53, 173, 157, 128),  # horse
        14: (54, 172, 170, 128),  # motorbike
        15: (54, 170, 182, 128),  # person
        16: (56, 168, 197, 128),  # pottled plant
        17: (57, 166, 216, 128),  # sheep
        18: (73, 160, 244, 128),  # sofa
        19: (135, 149, 244, 128),  # train
        20: (172, 136, 244, 128),  # tv/monitor
        255: (255, 255, 255, 128),  # void or unlabelled, white
    }
    mask = PIL.Image.new("RGBA", image.size, (0, 0, 0, 0))  # create a new mask image

    # iterate the pixel value of the target PNG image
    target_array = np.array(target).T  # Here is question, why when convert PIL.PngImageFile to numpy.arrary, the width and weight is reversed? 

    for x in range(target.width):
        for y in range(target.height):
            mpv = target_array[x, y]  # mask pixel value
            if target_array[x, y] != 0 or target_array[x, y] != 255:
                mask.putpixel((x, y), color_map[mpv])  # alpha=128 means transluscent

    # merge the mask and origin images
    image = image.convert("RGBA")
    merged_image = PIL.Image.alpha_composite(image, mask)
    
    return merged_image

# show the firt four images and targets
if __name__ == "__main__":
    fig = plt.figure(figsize=(8, 6))
    fig.suptitle("The first four images and masks"
                " \nof VOC2007 train dataset for Segmentation in PyTorch")
    for idx, (image, target) in enumerate(voc2007_seg_trainval):
        ax = fig.add_subplot(2, 2, idx + 1)
        image_show = draw_mask(image, target)
        ax.imshow(image_show)

        # disable the ticks and frame of the axes
        ax.set_frame_on(False)
        ax.set_xticks([])
        ax.set_yticks([])
        if idx >= 3:
            break

    # plt.show()
    plt.savefig("PASCAL VOC SegementationClass.jpg", bbox_inches='tight')   # Save the result

执行结果如下：

请添加图片描述

参考文献

  1. Everingham M., Van Gool L., Williams C.K.I., et. al. The PASCAL Visual Object Class (VOC) Challenge[J]. International Journal of Computer Vision, 2010, 88(2): 303-339.
  2. Everingham M., Eslami S.M.A., Van Gool L., et. al. The PASCAL Visual Object Classes Challenge: A Retrospective[J]. International Journal of Computer Vision, 2015, 111(1): 98-136.
    C.K.I., et. al. The PASCAL Visual Object Class (VOC) Challenge[J]. International Journal of Computer Vision, 2010, 88(2): 303-339.
  3. Everingham M., Eslami S.M.A., Van Gool L., et. al. The PASCAL Visual Object Classes Challenge: A Retrospective[J]. International Journal of Computer Vision, 2015, 111(1): 98-136.
  4. The PASCAL Visual Object Classes Homepage[EB/OL]. [2024-08-25]. http://host.robots.ox.ac.uk/pascal/VOC/

收集整理和创作不易, 若有帮助🉑, 请帮忙点赞👍➕收藏❤️, 谢谢!✨✨🚀🚀

KRISNAT
关注
  • 17
    点赞
  • 踩
  • 9
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
PyTorch深度学习实战（18）——目标检测基础
盼小辉丶的博客
09-29 3342
目标检测是计算机视觉领域中的重要任务，它旨在从图像或视频中准确地定位和识别出感兴趣的目标物体，目标是将输入图像中的目标区域框出，并为每个目标提供正确的类别标签，在许多应用领域都有广泛的应用，包括智能监控、自动驾驶、人脸识别等。在本节中，介绍了如何利用 ybat 准备训练数据集、使用 SelectiveSearch 库实现区域提议算法、对模型的预测执行非极大值抑制以及衡量模型性能。
《人工智能专栏》必读150篇 | 专栏介绍 & 专栏目录 & Python与PyTorch | 机器与深度学习 | 目标检测 | YOLOv5及改进 | YOLOv8及改进 | 关键知识点 | 工具
weixin_44302770的博客
12-25 915
《人工智能专栏》专栏介绍 & 专栏目录 & Python与Python | 机器学习 | 深度学习 | 目标检测 | YOLOv5及其改进 | YOLOv8及其改进 | 关键知识点 | 各种工具教程
Pytorch 语义分割DeepLabV3+ 训练自己的数据集 从数据准备到模型训练
weixin_41919571的博客
08-10 1万+
实现自动生成标注的图像分割设计 项目需求：本人接触项目要求实现砂石级配，因此第一步是实现砂石语义分割，将平铺的砂石个体分割出来。 步骤：获得分割样本->制作标签，VOC2012格式打包-> 利用DeepLabV3+完成语义分割工作->进一步研究 目录实现自动生成标注的图像分割设计一、数据处理二、制作标签使用labelme实现标注标签自动生成三、VOC格式打包四、环境配置五、网络训练六、模型测试 一、数据处理 通过传统图像处理方法获得自动标注数据。 图像处理方法后续单独写一篇介绍，基本采
Pytorch之经典神经网络CNN(四) —— ZFNet(Pascal VOC 2007)
hxxjxw的博客
05-20 1545
加载和保存checkpoint 当我们训练模型的时间很长的时候，例如一周等等，这其中如果系统断电了或者是出了其他问题了，但是不是意味着我们的training就要重新开始呢 所以我们的training的时候，每个一个小时，每个一天就要保存一个checkpoint state_dict()是把当前类的所有状态返回 在训练模型开始的时候先检查一下有没有checkpoint文件，有就把它加载进来，把网络参数的值每一个都初始化为我们已经train好的值，这样就不需要再从0开始train了 ...
【目标检测】yolo系列：从yolov1到yolov5之YOLOv2详解及复现
qq_42368281的博客
12-22 3273
YOLO v2 Yolov2论文链接：YOLO9000: Better, Faster, Stronger yolov2的改进 从Yolov2论文的标题可以直观看到就是Better、Faster、Stronger。Yolov1发表之后，计算机视觉领域出现了很多trick，例如批归一化、多尺度训练等等，v2也尝试借鉴了R-CNN体系中的anchor box，所有的改进提升，下面逐一介绍。 1. Batch Normalization（批归一化）* 检测系列的网络结构中，BN逐渐变成了标配。在Yolo的每个卷积
Python Pytorch库 详细笔记（从零开始 绝对入门级别）
hanmo22357的博客
02-24 4204
数学中有标量、向量和矩阵的概念，它们的维度分别是0、1、2。也就是说，标量中元素的位置固定，向量中元素的位置需要通过其索引确定，矩阵中的元素位置需要通过其行号和列号确定。张量可以视为矩阵的扩展，可以用于表示无穷维度的数据。张量（Tensor）是Pytorch库中的基本数据类型，Pytorch中各种基本数字类型都有其对应的Tensor类型，但是没有内嵌的字符串类型。
目标检测模型——One stage（YOLO v5的模型解析及应用）
樱缘之梦
12-30 8047
1. 简介 2. 原理 3. 模型解析 下载地址：https://github.com/ultralytics/yolov3 该地址中已包含简单调用，可作为简单参考。 3.1.文件内容解析 从上述地址下载文件，解压之后，获得如下文件： data：数据文件夹 ————hyps：超参数文件 ————images：yolo v5测试的两张图片，zidian.jpg，bus.jpg ————各项数据集的yaml文件，里边包括存储路径path、train、val、...
【Pytorch项目实战】之语义分割：U-Net、UNet++、U2Net
shinuone的博客
02-11 6155
图像分割：对图像中属于特定类别的像素进行分类（逐像素分类）。 图像分类：识别图像中存在的内容。 目标检测：识别图像中的内容和位置（通过边界框）。 语义分割：识别图像中存在的内容以及位置（通过查找属于它的所有像素）。
【mmdetection】使用自定义的coco格式数据集进行训练及测试
热门推荐
YeeKo的博客
05-27 3万+
目录一、mmdetection简介二、环境安装1、安装教程2、运行demo测试环境是否安装成功三、训练自定义的dataset1、准备dataset2、Training前修改相关文件3、Training4、Testing 一、mmdetection简介 项目仓库地址：https://github.com/open-mmlab/mmdetection 香港中文大学-商汤科技联合实验室开源了基于 PyT...
Yolov2 pytorch版本
04-13
6. **Fine-tuning on COCO**：除了在PASCAL VOC数据集上训练，还对COCO数据集进行了微调，增强了模型的泛化能力。 **PyTorch实现** PyTorch是Facebook开源的一个深度学习框架，以其动态计算图和易用性著称。将YOLOv...
YOLO训练Pascal VOC数据集：入门指南，快速上手目标检测
[YOLO训练Pascal VOC数据集：入门指南，快速上手目标检测](https://img-blog.csdnimg.cn/img_convert/f9377e232333c942cc19c2b96c76b927.png) # 1. YOLO目标检测简介** YOLO（You Only Look Once）是一种实时目标...
如何在Python中使用IP代理
IPIPGO的博客
08-23 471
通过以上步骤，你应该已经学会了如何在Python中使用IP代理。无论是单个代理IP、带认证的代理IP，还是批量使用代理IP，这些方法都能帮助你在实际项目中灵活应用。希望这篇文章对你有所帮助，如果你有任何问题或建议，欢迎在评论区留言，我们会尽力为你解答。t=N7T8。
python 实现convolution neural network卷积神经网络算法
luthane的博客
08-26 1736
卷积神经网络（Convolutional Neural Networks, CNN）是一种包含卷积计算且具有深度结构的前馈神经网络（Feedforward Neural Networks, FNN），是深度学习的代表算法之一。基本原理CNN的核心思想是通过模拟人类视觉系统的工作方式，自动提取图像中的特征，并将其用于分类、检测、分割等任务。它主要受到了生物学上感知机制的启发，模拟了人类视觉系统中的感知细胞和复杂细胞的工作方式。
python12 中，No module named‘distutils‘错误
qq_43557600的博客
08-27 95
python12 “ No module named'distutils' ”,​ 安装 pip install setuptools ，解决 ​
centos7 安装 superset4.0.2 教程
最新发布
m0_37759590的博客
08-27 497
centos7 安装 superset4.0.2 教程
【python计算机视觉编程——1.基本的图像操作和处理】
m0_53694086的博客
08-26 886
参数sigma为标准差（σ），是高斯滤波器的一个重要参数，它控制滤波器的平滑程度。标准差越大，高斯函数的曲线越宽，滤波器的影响范围就越大。标准差较大: 高斯滤波器会在更大范围内进行平滑，使得图像变得更加模糊，细节和边缘特征会被更强地平滑掉。标准差较小: 高斯滤波器会产生较小范围的平滑效果，图像的细节保留更多。还可以给定转换矩阵，将RGB图像转换为CIE XYZ色彩空间。图像像素值被分成128个区间，用于计算每个区间的像素值频率。可以返回目录中所有jpg图像的列表。
Python优化算法09——黏菌优化算法(SMA)
weixin_46277779的博客
08-24 848
python黏菌优化算法代码和使用
【Python】Pydantic：快速上手
2303_80346267的博客
08-22 1124
Pydantic 是一个用于数据验证和设置管理的 Python 库，基于 Python 类型提示构建。它通过创建数据模型类并使用类型提示进行数据验证，使得数据的验证和解析变得简单而可靠，广泛应用于数据模型的定义和验证，特别是在构建 API 时。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值