MS COCO数据集的下载、介绍与使用（目标检测）（一）

最新推荐文章于 2022-05-25 12:46:45 发布
最新推荐文章于 2022-05-25 12:46:45 发布
阅读量8.7k 收藏 55
点赞数 5
分类专栏： 目标检测
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_44145782/article/details/114241306
版权

MS COCO

博主最近一直都在潜心研究YOLOv5，先用的VOC数据集做了训练，发现性能还不错，现在打算利用MS COCO对于模型进行复现。
博主看的第一篇论文所用的数据集就是有20个类别的Pascal VOC数据集和80个物体类别的MS COCO，这些数据集在时间的推移下都变得越来越大（比如Pascal VOC 从2007的400M到后来的VOC2012快2个G）
今天，我们就来学一学MS COCO数据集的使用方法。

下载数据集

微软发布的 COCO 数据库是一个大型图像数据集, 专为目标检测、分割、人体关键点检测、语义分割和字幕生成而设计，用于Object Detection + Segmentation + Localization + Captioning。
下载链接如下，数据包括了物体检测和keypoints身体关键点的检测：

直接用迅雷下载的，感觉速度还行。
在这里插入图片描述

数据集介绍

下载并解压之后发现annotation全部都合并了，然后还有test2017、train2017、val2017分别对应测试集、训练集和验证集。
在这里插入图片描述

  • test2017：40670张图片
  • train2017：118287张图片
  • val2017：5000张图片

在annotation中，有很多分类的json格式文件，其中文件对应的任务如下：

  • instances：目标检测
  • captions：字幕生成，图片描述
  • person_keypoints：关键点检测
  • stuff_train/val：素材分割(Stuff Segmentation)

在官网给出的五大任务中，还有一个任务叫做panoptic segmentation全景分割，是和图像分割有关的。官网的data format介绍
deprecated-challenge2017文件夹下的数据没有annotations，简单的对数据集进行训练集和验证集的划分。
image_info：图片信息，应该是比赛中用到的吧
在这里插入图片描述

目标检测标注文件

这里只详细介绍目标检测任务的json文件。
打开json文件已经把我的眼睛看花了，还是看一下官网介绍

annotation{
    "id": int,
    "image_id": int,
    "category_id": int,
    "segmentation": RLE or [polygon],
    "area": float,
    "bbox": [x,y,width,height],
    "iscrowd": 0 or 1,
}

categories[{
    "id": int,
    "name": str,
    "supercategory": str,
}]

以下是我从instances_val2017.json中随便抽取的一些内容：

"annotations": [{
"segmentation": [[252.05,222.25,243.14,209.82,248.06,204.43,254.63,209.59,254.16,205.84,252.52,202.79,256.5,199.04,264.71,196.46,264.94,201.38,260.49,203.49,260.96,205.13,266.35,202.79,271.51,200.91,275.97,203.73,277.61,225.77,273.62,228.35,270.57,230.69,263.3,229.05,259.55,224.59,255.1,221.78]],
"area": 716.9797500000005,
"iscrowd": 0,
"image_id": 50145,
"bbox": [243.14,196.46,34.47,34.23],
"category_id": 2,
"id": 1335206
}]

//存放各类别与supercategory之间的映射
"categories": [{
"supercategory": "person",
"id": 1,
"name": "person"}]

  • 每个对象实例的标注都包含一系列字段，包括对象的类别ID（category_id） 与分段掩码（segmentation）

  • segmentation的编码格式取决于实例是表示单个对象（iscrowd = 0，在这种情况下使用polygen）还是对象集合（iscrowd = 1，在这种情况下使用RLE）

  • 为每个对象提供一个封闭的边界框（框坐标是从左上角的图像角测量的，并且是0索引的）。 其中“bbox”属性为实例的边界框（bounding box）。这四个数字的含义为左上角横坐标、左上角纵坐标、宽度、高度，这个框为大致画出。

  • 标注结构的 categories 字段存储各个category(id，name) 和 supercategory 名称（supercategory）的映射。
    如类别bird、dog、sheep、elephant、zebra的super category为animal。
    在这里插入图片描述
    coco2017数据集共80小类，类别id号不连续，最大为90。

COCOAPI的使用

readme文件如下

COCO API - http://cocodataset.org/

COCO is a large image dataset designed for object detection, segmentation, person keypoints detection, stuff segmentation, and caption generation. This package provides Matlab, Python, and Lua APIs that assists in loading, parsing, and visualizing the annotations in COCO. Please visit http://cocodataset.org/ for more information on COCO, including for the data, paper, and tutorials. The exact format of the annotations is also described on the COCO website. The Matlab and Python APIs are complete, the Lua API provides only basic functionality.

In addition to this API, please download both the COCO images and annotations in order to run the demos and use the API. Both are available on the project website.
-Please download, unzip, and place the images in: coco/images/
-Please download and place the annotations in: coco/annotations/
For substantially more details on the API please see http://cocodataset.org/#download.

After downloading the images and annotations, run the Matlab, Python, or Lua demos for example usage.

To install:
-For Matlab, add coco/MatlabApi to the Matlab path (OSX/Linux binaries provided)
-For Python, run "make" under coco/PythonAPI
-For Lua, run “luarocks make LuaAPI/rocks/coco-scm-1.rockspec” under coco/

首先介绍了一下COCO数据集的五个常用任务目标检测、图像分割、人体姿态检测、素材分割、图片描述
然后提供了Matlab\Python\Lua三个版本的API用于json版本annotations的加载、解析、可视化

  • 首先先把图把图片和所需的标注放在coco/images、coco/annotations目录下（自行创建）
    在这里插入图片描述
    由于不知道image_info_test是做什么的就都保留了，没删掉，可能也没啥用。
    在这里插入图片描述
  • 安装一下API
For Python, run "make" under coco/PythonAPI

博主这里利用的是PythonAPI
在这里插入图片描述
我的win10系统还没装make，一些按照linux下编写makefile可能会在Windows下出错，先安装一下make吧，安装过的自行跳过。
在这里插入图片描述

win下make命令的使用

跟着这篇简书文章安装即可https://www.jianshu.com/p/6eab5567415d
win10系统装的时候说有两个包没找到，先忽略掉。（貌似我装过了？）
在这里插入图片描述
在这里插入图片描述

  • 修改一下环境变量
    在这里插入图片描述
    右击->属性->高级系统设置

然后就能够使用make命令了，报了和原题主一样的错误。
在这里插入图片描述

继续配置COCO api

  • 暴力删除两个参数后发现还是报错
    在这里插入图片描述
    在这里插入图片描述

模型微调

一些训练可以用的技巧，mark一下

特征提取

  • 将预训练模型当做特征提取器来使用
  • 去掉输出层，将剩下的整个网络当作一个特征提取器，从而应用到新的数据集中

采用预训练模型的结构

  • 预训练模型的模型结构保持不变
  • 将所有的权重重新随机初始化
  • 根据自己的数据集进行训练

训练特定的层，冻结其他层

  • 对预训练模型进行部分的训练
  • 将模型起始的一些层的权重锁定，保持不变
  • 重新训练未锁定的层，得到新的权重

References

  1. COCO 数据集的使用
    https://www.cnblogs.com/q735613050/p/8969452.html
  2. MS coco数据集下载
    https://blog.csdn.net/daniaokuye/article/details/78699138
  3. 数据集COCO在目标检测的介绍与使用
    https://blog.csdn.net/winycg/article/details/100185794?ops_request_misc=&request_id=&biz_id=102&utm_term=mscoco数据集 目标检测的使用&utm_medium=distribute.pc_search_result.none-task-blog-2~all~sobaiduweb~default-7-100185794.pc_search_result_before_js
  4. 什么是预训练模型
    https://blog.csdn.net/weixin_42631192/article/details/106585567
  5. win下之make命令的使用
    https://www.jianshu.com/p/6eab5567415d
Vanessa Ni
关注
  • 5
    点赞
  • 踩
  • 55
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 1
    评论
专栏目录
coco128.zip数据集
06-21
MS COCO的全称是Microsoft Common Objects in Context，起源于微软于2014年出资标注的Microsoft COCO数据集，与ImageNet竞赛一样，被视为是计算机视觉领域最受关注和最权威的比赛之一。 COCO数据集是一个大型的、丰富的物体检测，分割和字幕数据集。这个数据集以scene understanding为目标，主要从复杂的日常场景中截取，图像中的目标通过精确的segmentation进行位置的标定。图像包括91类目标，328,000影像和2,500,000个label。目前为止有语义分割的最大数据集，提供的类别有80 类，有超过33 万张图片，其中20 万张有标注，整个数据集中个体的数目超过150 万个。 如果你没有积分 可以直接联系我[email protected]
coco2017数据集免费下载
04-25
MS COCO的全称是Microsoft Common Objects in Context，起源于微软于2014年出资标注的Microsoft COCO数据集，与ImageNet竞赛一样，被视为是计算机视觉领域最受关注和最权威的比赛之一。          COCO数据集是一个大型的、丰富的物体检测，分割和字幕数据集。这个数据集以scene understanding为目标，主要从复杂的日常场景中截取，图像中的目标通过精确的segmentation进行位置的标定。图像包括91类目标，328,000影像和2,500,000个label。目前为止有语义分割的最大数据集，提供的类别有80 类，有超过33 万张图片，其中20 万张有标注，整个数据集中个体的数目超过150 万
MS COCO数据集下载与查看
qq_40560220的博客
11-03 1787
1. MS COCO数据集简介 官网地址：https://cocodataset.org/ 简介：MS COCO是一个非常大型且常用的数据集，其中包括了目标检测，分割，图像描述等。 2. MS COCO数据集下载 以下载coco2017数据集为例，只需要下载三个文件： 2017 Train images [118K/18GB] 2017 Val images [5K/1GB] 2017 Train/Val annotations [241MB]：对应训练集和验证集的标注json文件 目录结构如图： 3. M
MS coco数据集下载链接
zmlovelx(帅得不敢出门 程序员群31843264)
08-08 5343
coco数据集因为官网被墙了，所以无法看到下载链接，翻墙后拷贝过来，直接用链接下载就可以。 网页格式拷贝过来后就与官网的不一样， 凑合看。 Images 2014 Train images [83K/13GB]2014 Val images [41K/6GB]2014 Test images [41K/6GB]2015 Test images [81K/12GB]2017 Train ima...
可视化 ms_coco 人体关键点数据集（python）
G果的博客
01-18 5574
文件路径信息 annotations文件保存person_keypoints_val2014.json（77M左右） mscoco_imgs文件保存下载的图片和添加mask的图片 完整代码 import json import numpy as np import cv2 import urllib json_dir="E:/DL/GCN/GCN_study/data/annotations/person_keypoints_val2014.json" img_dir='E:/DL/GCN/GCN_
将labelme格式数据转化为标准的coco数据集格式方式
09-17
今天小编就为大家分享一篇将labelme格式数据转化为标准的coco数据集格式方式，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
（win）Pycocotools安装程序和安装方法
07-27
Pycocotools安装程序和安装方法，包括Microsoft Visual C++ 14.0安装程序
CoCo数据集下载
热门推荐
ji_meng的博客
05-25 3万+
文章目录1.介绍2.下载2.1 官网2.2 百度网盘2.3 下载到linux服务器 1.介绍 MS COCO的全称是Microsoft Common Objects in Context，起源于微软2014年的Microsoft COCO数据集 COCO is a large-scale object detection, segmentation, and captioning dataset. COCO has several features 主要用于目标检测，图像分割，姿态估计等，共有80个类
【darknet-yolo系列】下载coco数据集并训练自己的模型
sazass的博客
07-28 5138
前言：coco数据集是个很庞大的，开源的数据集。有时候项目中需要训练一个模型，其中会包含coco数据集的某几类，此时会希望可以将庞大的coco数据集中提取出来自己需要的某几类别数据作为基础，再配合上自己采集一部分现场的数据集，训练成一个专门的模型，这样会比较高效，且质量有保障； 1.下载coco数据集 网上有很多； 本人百度网盘coco2017的数据集 链接：https://pan.baidu.com/s/1GVN0CcaWIckkIx53ePnR-g 提取码：m41t 后面都以coco2017为例 2.数
简单的MS COCO数据集下载方法
MokHoYin的博客
12-18 1万+
简单的MS COCO数据集下载方法 这里介绍的是一种不需要翻墙的MS COCO数据集下载方法 MS COCO数据集是当前做 instance segmentation 普遍使用的主流dataset。官方下载页：这里官方途径下载的问题：有过通过官方途径下载MS COCO经历的同学肯定会感觉特别麻烦。首先是文件太大（接近20G），如果你有条件上外网，使用浏览器下载但不支持断点重传，这样要下载完20G
计算机视觉常用数据集总结：包括MS COCO、ImageNet、VOC、人脸识别、行人检测等
Tiger数学之家的博客
08-30 7501
本篇博文主要对目前公开的计算机视觉常用数据集进行总结。 1.PASCAL VOC（权威鼻祖） PASCAL VOC是一个图像集，由Mark Everingham (University ofLeeds)、Luc van Gool (ETHZ, Zurich)等人创立，有1.7W+张图片，分为20类。PASCALVOC竞赛也是计算机视觉竞赛的鼻祖，从2005年到2012年一共举办了8届，包含了物...
课题用到数据集以及处理数据集的函数.rar
07-02
一、数据集介绍 SSD 论文中使用到的数据集有3个： 1、Pascal VOC 用于图像分类和目标检测两个任务的基准测试，主要由VOC 2007和VOC 2012两部分组成，每部分包含20个常见类别。前者包含5011张训练和验证图像，4952张测试图像；后者包含11540张训练和验证图像，10991张测试图像。 2、MS COCO 用于目标检测与实例分割、人体关键点检测、材料识别、全景分割、图像描述。图像包括91类目标，328,000影像和2,500,000个label。目前为止有语义分割的最大数据集，提供的类别有80类，有超过33 万张图片，其中20 万张有标注，整个数据集中个体的数目超过150 万个。 3、ILSVRC 是近年来机器视觉领域最受追捧也是最具权威的学术竞赛之一，代表了图像领域的最高水平，主要项目有图像分类与目标定位、目标检测、视频目标检测、场景分类。 使用ImageNet数据集，包含了超过1400万张全尺寸的有标记图片。ILSVRC比赛会每年从ImageNet数据集中抽出部分
MS COCO2017数据集
06-25
COCO 数据集（全称为 Common Objects in Context）目前最常用于图像检测定位的数据集，是一个新的图像识别、分割、和字幕数据集，其对于图像的标注信息不仅有类别、位置信息，还有对图像的语义文本描述。本资源提供coco 2017下载资源网盘链接，如果失效可以根据文件中邮箱地址咨询。
YOLO红白细胞血小板检测数据集(含10000张图片)+对应voc、coco和yolo三种格式标签+划分脚本+训练教程.rar
09-04
1、YOLO红白细胞血小板检测数据集，真实场景的高质量图片数据，数据场景丰富。使用lableimg标注软件标注，标注框质量高，含voc(xml)、coco(json)和yolo(txt)三种格式标签，分别存放在不同文件夹下，可以直接用于YOLO系列的目标检测。 2、附赠YOLO环境搭建、训练案例教程和数据集划分脚本，可以根据需求自行划分训练集、验证集、测试集。 3、数据集详情展示和更多数据集下载：https://blog.csdn.net/m0_64879847/article/details/132301975
Few-Shot目标检测数据集-已经整理成MS-COCO数据格式-含60000+张图-可直接用于目标检测算法训练.zip
04-07
Few-Shot目标检测数据集_已经整理成MS-COCO数据格式_含60000+张图_可直接用于目标检测算法训练
目标检测 分割 MS COCO 2017 instances_val2017_3000.json
04-11
验证集随机采样的3000张图片的数据和标注, 适用于快速验证模型效果节约时间
计算机视觉常用数据集总结：包括MS COCO、ImageNet、VOC、人脸识别、行人检测等.rar
最新发布
04-20
计算机视觉常用数据集总结：包括MS COCO、ImageNet、VOC、人脸识别、行人检测等 PASCAL VOC是一个图像集，由Mark Everingham (University ofLeeds)、Luc van Gool (ETHZ, Zurich)等人创立，有1.7W+张图片，分为20类...
2021计算机视觉与模式识别方向会议截稿日期
“知识最大的敌人不是无知，而是错觉”
04-14 3427
会议 截稿时间 会议时间 地点 CCF等级 主页 NeurIPS2021 2021-05-26 2020-12-06 Online A https://nips.cc/Conferences/2021 CVPR 2022 2021-11-16(TBD) 2022-06-21(TBD) United States A http://cvpr2022.thecvf.com AAAI 2022: Association for the Advancement of Artificial I...
MSCOCO数据集介绍
05-14
MSCOCO（Microsoft Common Objects in Context）数据集是由微软公司推出的一个大规模图像识别、目标检测、图像分割等多项任务的数据集。它包含了330K张图像，其中包含了超过2.5M个标注，这些标注包括80个常见的对象类别、33个场景类别和5种不同的图像分割标注。 MSCOCO数据集中的图像和标注都是由人工标注的，这些标注包括物体的类别、位置、大小、朝向、遮挡情况等信息，同时也包括图像的场景类别和分割标注。这些标注使得MSCOCO数据集成为了一个非常有用的工具，可以用于训练和评估各种图像识别和目标检测算法。 MSCOCO数据集已经成为了图像识别和目标检测领域的标准数据集之一，被广泛应用于学术研究和商业应用中。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Vanessa Ni

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值