YOLOV5训练自己的数据集
最近做人工智能大作业,采用YOLOV5目标检测算法,遇到了很多问题,在此记录。
下载YOLOV5项目
git下载地址:https://github.com/ultralytics/yolov5/tree/v3.0
注意
:YOLOV5其中有很多个版本,一定要选择自己需要的版本!如果只是在同一个项目中训练并测试,那么版本并不会产生影响,如果想将自己训练得到的权重文件运用到其它项目去,一定要版本对应!
准备数据集
标注数据集
可以采用labelImg进行标注,不做赘述,建议生成xml格式的文件(不易出错),后续很容易转化成txt格式
- VOC数据格式:得到xml文件
- YOLO数据格式:得到txt文件
制作项目所需的数据集
这一步一定要将代码改为自己的标签和路径
- 在
yolov5/data
文件下创建如下文件目录
- 将所有的图片放到
JPEGImages
文件夹下,将所有xml图片文件放入到Annotations
文件夹下 ,在根目录下创建make_txt.py
文件,代码如下,运行代码后ImageSets
中生成数据集分类txt文件。
import os
import random
trainval_percent = 0.1
train_percent = 0.9
xmlfilepath = 'data/Annotations'
txtsavepath = 'data/ImageSets'
total_xml = os.listdir(xmlfilepath)
num = len(total_xml)
list = range(num)
tv = int(num * trainval_percent)
tr = int(tv * train_percent)
trainval = random.sample(list, tv)
train = random.sample(trainval, tr)
ftrainval = open('data/ImageSets/trainval.txt', 'w')
ftest = open('data/ImageSets/test.txt', 'w')
ftrain = open('data/ImageSets/train.txt', 'w')
fval = open('data/ImageSets/val.txt', 'w')
for i in list:
name = total_xml[i][:-4] + '\n'
if i in trainval:
ftrainval.write(name)
if i in train:
ftest.write(name)
else:
fval.write(name)
else:
ftrain.write(name)
ftrainval.close()
ftrain.close()
fval.close()
ftest.close()
- 在项目根目录下继续创建
voc_label.py
文件,代码如下,需要注意的是,sets中改为你的sets的名字(make_txt生成的) classes修改为你需要检测的类别。
import xml.etree.ElementTree as ET
import pickle
import os
from os import listdir, getcwd
from os.path import join
sets = ['train', 'test','val']
classes = ['hat','nohat','mask','nomask']
def convert(size, box):
dw = 1. / size[0]
dh = 1. / size[1]
x = (box[0] + box[1]) / 2.0
y = (box[2] + box[3]) / 2.0
w = box[1] - box[0]
h = box[3] - box[2]
x = x * dw
w = w * dw
y = y * dh
h = h * dh
return (x, y, w, h)
def convert_annotation(image_id):
in_file = open('data/Annotations/%s.xml' % (image_id))
out_file = open('data/labels/%s.txt' % (image_id), 'w')
tree = ET.parse(in_file)
root = tree.getroot()
size = root.find('size')
w = int(size.find('width').text)
h = int(size.find('height').text)
for obj in root.iter('object'):
difficult = obj.find('difficult').text
cls = obj.find('name').text
if cls not in classes or int(difficult) == 1:
continue
cls_id = classes.index(cls)
xmlbox = obj.find('bndbox')
b = (float(xmlbox.find('xmin').text), float(xmlbox.find('xmax').text), float(xmlbox.find('ymin').text),
float(xmlbox.find('ymax').text))
bb = convert((w, h), b)
out_file.write(str(cls_id) + " " + " ".join([str(a) for a in bb]) + '\n')
wd = getcwd()
print(wd)
for image_set in sets:
if not os.path.exists('data/labels/'):
os.makedirs('data/labels/')
image_ids = open('data/ImageSets/%s.txt' % (image_set)).read().strip().split()
list_file = open('data/%s.txt' % (image_set), 'w')
for image_id in image_ids:
list_file.write('data/images/%s.jpg\n' % (image_id))
convert_annotation(image_id)
list_file.close()
- 生成voc格式的标签文件
labels
(显示数据集的具体标注数据),并且在data文件下出现了train、val、test的txt文件,保存了图片的路径。(带有图片的路径)
数据集的配置
在data
目录下创建mydata.yaml
注意改为自己的类别,标签顺序一定要对应自己labels文件里的顺序!
train: data/train.txt # train images (relative to 'path') 128 images
val: data/val.txt # val images (relative to 'path') 128 images
test: data/test.txt # test images (optional)
# Classes
nc: 4 # number of classes
names: ['hat','nohat','mask','nomask'] # class names
选择一个预训练模型结构
model文件
下面有几个模型的配置文件,s m l x需要训练的时间依次增加(随着架构的增大,训练时间也是逐渐增大),不知道那个n哪来的。。。。
把其中的nc改为自己的标签数即可
调整命令行参数
按照自己的文件路径修改即可
yolov5s.pt为权值文件,需要去官网下载(注意版本对应,别乱来)
yolov5s.yaml是刚刚选择的模型配置
mydata.yaml是配置数据集时创建的文件
weights:权重文件路径
cfg:存储模型结构的配置文件
data:存储训练、测试数据的文件
batch-size:一次多少张图片才进行权重更新,显卡不行调小点(越大速度越快)
开始训练
观察run
里面的结果
results.txt
文件可以看到每轮的变化
best.pt
是得到的最好的模型
问题汇总
问题
:assertionerror:no labels found in //*/JPEGImages.cache can not train without labels
解决:这是准备数据集的时候出了错,注意检查自己生成的文件 -> 制作项目所需的数据集
问题
:Can‘t get attribute ‘C3‘ on <module ‘models.common‘ from或者 The .grad attribute of a Tensor that is not a leaf Tensor is being accessed
解决:换版本训练
前者会提醒你把某文件的C3类导入进去,百度答案是让你用c v大法,我都试了发现没什么用。。。
后者是极其稀有的bug,坑我许久,模型不匹配,换版本训练!(因为我拿5.0的版本生成的模型去3.0的项目跑。。。)
问题
:CUDA out of memory
解决:调小batch-size或者换高配电脑
很经典的问题,内存溢出,因为显卡的专用内存太小,网上有很多方法,但是基本都没用。。。如果batch-size调到最小还不行,建议换电脑吧。