yolov5训练自己数据集

yolov5训练自己数据集

项目地址：https://github.com/ultralytics/yolov5
环境：Windows pytorch-gpu==1.6.0

** 一、数据集准备**

├── data
│   ├── Annotations  进行 detection 任务时的标签文件，xml 形式，文件名与图片名一一对应
│   ├── images  存放 .jpg 格式的图片文件
│   ├── ImageSets  存放的是分类和检测的数据集分割文件，包含train.txt, val.txt,trainval.txt,test.txt
│   ├── labels  存放label标注信息的txt文件，与图片一一对应

├── ImageSets(train，val，test建议按照8：1：1比例划分)
│   ├── train.txt  写着用于训练的图片名称
│   ├── val.txt  写着用于验证的图片名称
│   ├── trainval.txt  train与val的合集
│   ├── test.txt  写着用于测试的图片名称

1.ImageSets 下文件的生成
运行我的data文件夹下的makeTxt.py文件。生成如图所示data/ImageSets下四个文件。

文件内容如图所示：

makeTxt.py完整代码如下：

import os
import random

trainval_percent = 0.1# 训练集和验证集所占比例，剩下的0.2是测试集比例
train_percent = 0.9# 训练集所占比例
xmlfilepath = './Annotations'
txtsavepath = './ImageSets'
total_xml = os.listdir(xmlfilepath)
num = len(total_xml)
list = range(num)
tv = int(num * trainval_percent)
tr = int(tv * train_percent)
trainval = random.sample(list, tv)
train = random.sample(trainval, tr)
ftrainval = open('./ImageSets/trainval.txt', 'w') #只包含名称，没有后缀和路径
ftest = open('./ImageSets/test.txt', 'w')
ftrain = open('./ImageSets/train.txt', 'w')
fval = open('./ImageSets/val.txt', 'w')

for i in list:
    name = total_xml[i][:-4] + '\n'
    if i in trainval:
        ftrainval.write(name)
        if i in train:
            ftest.write(name)
        else:
            fval.write(name)
    else:
        ftrain.write(name)
ftrainval.close()
ftrain.close()
fval.close()
ftest.close()

运行voc_label.py文件，将图片数据集标注后的xml文件中的标注信息读取出来并写入txt文件，运行后在labels文件夹中出现所有图片数据集的标注信息，并在data目录下生成三个txt文件。

# xml解析包 在labels中存放txt格式的标签信息
import xml.etree.ElementTree as ET
import pickle
import os
# os.listdir() 方法用于返回指定的文件夹包含的文件或文件夹的名字的列表
from os import listdir, getcwd
from os.path import join


sets = ['train', 'test', 'val']
classes = ['jyz', 'xcxj', 'fzc', 'nc','jyz_gz','fzc_gz']


# 进行归一化操作
def convert(size, box): # size:(原图w,原图h) , box:(xmin,xmax,ymin,ymax)
    dw = 1./size[0]     # 1/w
    dh = 1./size[1]     # 1/h
    x = (box[0] + box[1])/2.0   # 物体在图中的中心点x坐标
    y = (box[2] + box[3])/2.0   # 物体在图中的中心点y坐标
    w = box[1] - box[0]         # 物体实际像素宽度
    h = box[3] - box[2]         # 物体实际像素高度
    x = x*dw    # 物体中心点x的坐标比(相当于 x/原图w)
    w = w*dw    # 物体宽度的宽度比(相当于 w/原图w)
    y = y*dh    # 物体中心点y的坐标比(相当于 y/原图h)
    h = h*dh    # 物体宽度的宽度比(相当于 h/原图h)
    return (x, y, w, h)    # 返回 相对于原图的物体中心点的x坐标比,y坐标比,宽度比,高度比,取值范围[0-1]


# year ='2012', 对应图片的id（文件名）
def convert_annotation(image_id):
    '''
    将对应文件名的xml文件转化为label文件，xml文件包含了对应的bunding框以及图片长款大小等信息，
    通过对其解析，然后进行归一化最终读到label文件中去，也就是说
    一张图片文件对应一个xml文件，然后通过解析和归一化，能够将对应的信息保存到唯一一个label文件中去
    labal文件中的格式：calss x y w h　　同时，一张图片对应的类别有多个，所以对应的ｂｕｎｄｉｎｇ的信息也有多个
    '''
    # 对应的通过year 找到相应的文件夹，并且打开相应image_id的xml文件，其对应bund文件
    in_file = open('./Annotations/%s.xml' % (image_id), encoding='utf-8')
    # 准备在对应的image_id 中写入对应的label，分别为
    # <object-class> <x> <y> <width> <height>
    out_file = open('./labels/%s.txt' % (image_id), 'w', encoding='utf-8')
    # 解析xml文件
    tree = ET.parse(in_file)
    # 获得对应的键值对
    root = tree.getroot()
    # 获得图片的尺寸大小
    size = root.find('size')
    # 获得宽
    w = int(size.find('width').text)
    # 获得高
    h = int(size.find('height').text)
    # 遍历目标obj
    for obj in root.iter('object'):
        # 获得difficult ？？
        difficult = obj.find('difficult').text
        # 获得类别 =string 类型
        cls = obj.find('name').text
        # 如果类别不是对应在我们预定好的class文件中，或difficult==1则跳过
        if cls not in classes or int(difficult) == 1:
            continue
        # 通过类别名称找到id
        cls_id = classes.index(cls)
        # 找到bndbox 对象
        xmlbox = obj.find('bndbox')
        # 获取对应的bndbox的数组 = ['xmin','xmax','ymin','ymax']
        b = (float(xmlbox.find('xmin').text), float(xmlbox.find('xmax').text), float(xmlbox.find('ymin').text),
             float(xmlbox.find('ymax').text))
        print(image_id, cls, b)
        # 带入进行归一化操作
        # w = 宽, h = 高， b= bndbox的数组 = ['xmin','xmax','ymin','ymax']
        bb = convert((w, h), b)
        # bb 对应的是归一化后的(x,y,w,h)
        # 生成 calss x y w h 在label文件中
        out_file.write(str(cls_id) + " " + " ".join([str(a) for a in bb]) + '\n')


# 返回当前工作目录
wd = getcwd()
print(wd)


for image_set in sets:
    '''
    对所有的文件数据集进行遍历
    做了两个工作：
　　　　１．讲所有图片文件都遍历一遍，并且将其所有的全路径都写在对应的txt文件中去，方便定位
　　　　２．同时对所有的图片文件进行解析和转化，将其对应的bundingbox 以及类别的信息全部解析写到label 文件中去
    　　　　　最后再通过直接读取文件，就能找到对应的label 信息
    '''
    # 先找labels文件夹如果不存在则创建
    if not os.path.exists('./labels/'):
        os.makedirs('./labels/')
    # 读取在ImageSets/Main 中的train、test..等文件的内容
    # 包含对应的文件名称
    image_ids = open('./ImageSets/%s.txt' % (image_set)).read().strip().split()
    # 打开对应的2012_train.txt 文件对其进行写入准备
    list_file = open('./%s.txt' % (image_set), 'w')
    # 将对应的文件_id以及全路径写进去并换行
    for image_id in image_ids:
        list_file.write('./images/%s.jpg\n' % (image_id))
        # 调用  year = 年份  image_id = 对应的文件名_id
        convert_annotation(image_id)
    # 关闭文件`在这里插入代码片`
    list_file.close()

二、模型训练和检测
1.在data目录下，复制一份coco.yaml文件并将其重命名为my.yaml，放在data目录下，并对cat.yaml中的参数进行配置。

#修改训练集、验证集和测试集txt路径
train: data/train.txt  # 118287 images
val: data/val.txt  # 5000 images
test: data/test.txt  # 20288 of 40670 images, submit to https://competitions.codalab.org/competitions/20794
# 修改类别数
nc: 6

# 修改类名
names: ['jyz', 'xcxj', 'fzc', 'nc','jyz_gz','fzc_gz']

2.修改models目录下的yolov5s.yaml文件。这里可以根据自己选择的模型大小修改对应文件。

nc: 6   #nc：类别数，你的类别有多少就填写多少。从1开始算起，不是0-14这样算。
#顺便一提， 下面两个参数可控制网络结构，不需修改，与模型大小已经对应。
depth_multiple: 0.33  # 控制模型的深度，假设yolov5l中有三个Bottleneck，那yolov5s中就只有一个Bottleneck。
width_multiple: 0.50  # 控制卷积核的个数设置为0.5，Focus就变成[32, 3]，Conv就变成[64, 3, 2]。以此类推，卷积核的个数都变成了设置的一半。

3.训练参数修改 train.py，也可在终端通过命令进行指定参数。注意修改以下几个参数。运行train.py

parser.add_argument('--weights', type=str, default='yolov5s.pt', help='initial weights path')
parser.add_argument('--cfg', type=str, default='models/yolov5s.yaml', help='model.yaml path')
#自己的yaml文件
parser.add_argument('--data', type=str, default='data/my.yaml', help='data.yaml path')
parser.add_argument('--epochs', type=int, default=300)
#爆显存的话调小一点
parser.add_argument('--batch-size', type=int, default=16, help='total batch size for all GPUs')
parser.add_argument('--img-size', nargs='+', type=int, default=[640, 640], help='[train, test] image sizes')
# 训练的设备，cpu；0(表示一个gpu设备cuda:0)；0,1,2,3(多个gpu设备)。值为空时，训练时默认使用计算机自带的显卡或CPU
parser.add_argument('--device', default='', help='cuda device, i.e. 0 or 0,1,2,3 or cpu')
# dataloader的最大worker数量。这里我记得报错，可以将workers修改为0.
parser.add_argument('--workers', type=int, default=4, help='maximum number of dataloader workers')

可视化：进入环境
tensorboard --logdir runs
根据提示打开浏览器http://localhost:6006/
4.检测需要修改的参数，一般修改的以下几个参数，然后运行detect.py。

# 选用训练的权重
parser.add_argument('--weights', nargs='+', type=str, default='runs/train/exp/weights/best.pt', help='model.pt path(s)')
# source=0表示摄像头实时检测，也可输入视频路径
parser.add_argument('--source', type=str, default='inference/videos/jyz.mp4', help='source') 
# 网络输入图片大小
parser.add_argument('--view-img', action='store_true', help='display results')
# 是否将检测的框坐标以txt文件形式保存，默认False，当需要报存时，可修改路径default="inference/output"
parser.add_argument('--save-txt', action='store_true', help='save results to *.txt')
# 设置只保留某一部分类别，添加语句default=[0,1,2]等id。
parser.add_argument('--classes', nargs='+', type=int, help='filter by class: --class 0, or --class 0 2 3')

三、pytorch转onnx
1.官方自带的export.py，选择模型

python models/export.py --weights weights/yolov5s.pt --img 640 --batch 1

2.根据错误提示pip install coremltools、packaging。然后继续运行1的命令
3.此时 weights下出现三个文件 :onnx、mlmodel、torchscript
4.使用神经网络Netron,出现网络结构图。

import netron
netron.start('yolov5s.onnx')

5 . pt模型转为了onnx模型，可以说已经脱离了pytorch了，但是转ncnn还需要对模型做一个Simplifier操作，因为转出的onnx模型还有许多冗余，这在ncnn里也是不支持的，避免转ncnn时各种报错安装简化 打开weights简化

python -m onnxsim yolov5s.onnx yolov5s_sim.onnx 

四、 遇到的问题
1.路径一定不要包含中文，不让opencv报错。如果必须要读中文的话，读取路径那里添加一句话：

img = cv2.imdecode(np.fromfile(img_path, dtype=np.uint8), -1)

2.batch-size要根据自己显存调节，不然会报错。