🍨 本文为🔗365天深度学习训练营 中的学习记录博客
🍖 原作者:K同学啊|接辅导、项目定制
在安装好yolov5并测试成功后,可以来尝试训练数据集。可以完全是自己的数据集,通过标注工具(如labelme)来进行标准,也可以是公开数据集,这里先暂时采用公开数据集(后续将完整走一步训练自己的数据集)。
1.下载数据集
这里采用一个公开的水果数据集,也可以采用其他数据集,将数据集放在yolov5目录下的data文件夹下即可。
链接:https://pan.baidu.com/s/1TMp5ZiPhFoHFDf2lVqgm0w?pwd=yolo
提取码:yolo
该数据集总共200张水果图像,共四类,分别为:香蕉、蛇果、火龙果、菠萝。
2.准备yolo标注文件
2.1拆分数据集
上述数据集仅有两个文件夹,如下图所示
其中:
(1)Annotations:为label文件,xml格式
(2)Images:为图像文件,该数据集为png格式(也可以为其他图像格式)
一般数据集分为测试集、验证集和训练集,因此需要将此数据集进行划分,使用以下python脚本进行数据集拆分,可以自己写脚本进行一定比例的拆分,也可参考网上的代码,这里直接使用网上的python脚本split_train_val.py,如下所示。
# coding:utf-8
import os
import random
import argparse
parser = argparse.ArgumentParser()
# xml文件的地址,根据自己的数据进行修改 xml一般存放在Annotations下
parser.add_argument('--xml_path', default='Annotations', type=str, help='input xml label path')
# 数据集的划分,地址选择自己数据下的ImageSets/Main
parser.add_argument('--txt_path', default='dataset', type=str, help='output txt label path')
opt = parser.parse_args()
# trainval_percent = 1.0
# train_percent = 0.9
trainval_percent = 0.8 # 训练集和验证集所占比例。
train_percent = 0.8 # 训练集所占比例,可自己进行调整
xmlfilepath = opt.xml_path
txtsavepath = opt.txt_path
total_xml = os.listdir(xmlfilepath)
if not os.path.exists(txtsavepath):
os.makedirs(txtsavepath)
num = len(total_xml)
list_index = range(num)
tv = int(num * trainval_percent)
tr = int(tv * train_percent)
trainval = random.sample(list_index, tv)
train = random.sample(trainval, tr)
file_trainval = open(txtsavepath + '/trainval.txt', 'w')
file_test = open(txtsavepath + '/test.txt', 'w')
file_train = open(txtsavepath + '/train.txt', 'w')
file_val = open(txtsavepath + '/val.txt', 'w')
for i in list_index:
name = total_xml[i][:-4] + '\n'
if i in trainval:
file_trainval.write(name)
if i in train:
file_train.write(name)
else:
file_val.write(name)
else:
file_test.write(name)
file_trainval.close()
file_train.close()
file_val.close()
file_test.close()
根据代码中参数(上图红框部分)可知,训练验证集占80%(其中训练集又占训练验证集的80%,验证集则为20%),测试集占20%。拆分后其结果如下图所示。
分别打开每个txt,可以得到数据量如下,符合拆分时的比例设置
Test:40个
Train:128个
trainVal:160个
Val:32个
2.2准备yolo标定文件
2.1仅仅将所有数据集的文件名(不含路径和图像格式)进行拆分,运行以下脚本(voc_label.py)文件,将根据前一步的结果,分别形成以下内容
# -*- coding: utf-8 -*-
import xml.etree.ElementTree as ET
import os
from os import getcwd
'''
准备labels,把数据集格式转换成yolo_txt格式,即将每个xml标注提取bbox信息为txt格式,
每个图像对应一个txt文件,文件每一行为一个目标的信息,包括class, x_center, y_center, width, height格式
'''
sets = ['train', 'val', 'test']
classes = ["banana", "snake fruit", "dragon fruit", "pineapple"] # 改成自己的类别
abs_path = os.getcwd()
print(abs_path)
def convert(size, box):
dw = 1. / (size[0])
dh = 1. / (size[1])
x = (box[0] + box[1]) / 2.0 - 1
y = (box[2] + box[3]) / 2.0 - 1
w = box[1] - box[0]
h = box[3] - box[2]
x = x * dw
w = w * dw
y = y * dh
h = h * dh
return x, y, w, h
def convert_annotation(image_id):
in_file = open('Annotations/%s.xml' % (image_id), encoding='UTF-8')
out_file = open('labels/%s.txt' % (image_id), 'w')
tree = ET.parse(in_file)
root = tree.getroot()
size = root.find('size')
w = int(size.find('width').text)
h = int(size.find('height').text)
for obj in root.iter('object'):
difficult = obj.find('difficult').text
# difficult = obj.find('Difficult').text
cls = obj.find('name').text
if cls not in classes or int(difficult) == 1:
continue
cls_id = classes.index(cls)
xmlbox = obj.find('bndbox')
b = (float(xmlbox.find('xmin').text), float(xmlbox.find('xmax').text), float(xmlbox.find('ymin').text),
float(xmlbox.find('ymax').text))
b1, b2, b3, b4 = b
# 标注越界修正
if b2 > w:
b2 = w
if b4 > h:
b4 = h
b = (b1, b2, b3, b4)
bb = convert((w, h), b)
out_file.write(str(cls_id) + " " + " ".join([str(a) for a in bb]) + '\n')
#wd = getcwd()
for image_set in sets:
if not os.path.exists('labels/'):
os.makedirs('labels/')
image_ids = open('dataset/%s.txt' % (image_set)).read().strip().split()
list_file = open('./%s.txt' % (image_set), 'w')
for image_id in image_ids:
list_file.write(abs_path + '/images/%s.png\n' % (image_id))
convert_annotation(image_id)
list_file.close()
其中
* test.txt:所有测试集的图像完整路径(绝对路径)
* train.txt:所有训练集的图像完整路径(绝对路径)
* val.txt:所有验证集的图像完整路径(绝对路径)
(4) labels:所有图像的标注文件,其格式是按照yolo的格式写入的,如下图fruit0.txt所示,每行为一个水果,每行共5个数据,第一个为类别,第2-5为位置信息,分别为x、y、w、h。
注意:
(1)如果是采用其他数据集,一定要进行相应的类别修改,如下图所示
(2)注意各文件路径,需要修改为自己的路径。
3.准备配置文件
3.1编写数据集配置文件
在data文件夹下编写fruit.yaml文件,如下图所示:
注意类别个数和名称需要与voc_label.py对应,同时需要注意文件路径(由于fruit.yaml在data目录下,刚开始时train和val路径并未加data,但后面训练时会报错找不到train和val路径,因此一定要加上data)。
3.2 修改模型配置文件
Yolov5有s、m、l和x四个不同的模型版本,这里选择s版本,将yolov5s.yaml中的类别进行相应的修改,其他暂时不变。
4.训练
使用以下命令进行训练
python train.py --img 640 --epochs 100 --data data/fruit.yaml --cfg models/yolov5s.yaml
训练完成,如下图所示
5.问题解决
根据报错内容找到cmd.py路径并打开,添加如下内容,如图所示。
os.environ['GIT_PYTHON_REFRESH'] = 'quiet'