YOLOv8--基于自定义数据集训练目标检测模型

目录

一、环境搭建（window+anaconda环境安装+pycharm部署）
1、安装Anaconda和PyCharm
2、创建yolov8虚拟环境
3、安装pytorch
4、下载yolov8源码
5、设置PyCharm
6、测试
二、数据集制作
1、指定格式存放数据集
2、按比例划分数据集
3、将xml文件转换成txt文件
4、查看自定义数据集标签类别及数量
5、修改数据加载配置文件
三、目标检测模型训练、测试、预测、导出
1、模型训练
2、模型测试
3、模型预测
4、模型导出
四、图像分割模型训练、测试、预测、导出
1、模型训练
2、模型测试
3、模型预测
4、模型导出

一、环境搭建（window+anaconda环境安装+pycharm部署）

1、安装Anaconda和PyCharm

2、创建yolov8虚拟环境

1.windows下打开Anaconda Prompt
2.创建名为yolov8的虚拟环境：

conda create -n yolov8 python=3.7 anaconda

3.查看conda中已创建的环境：

conda env list

4.打开新建环境yolov8：

conda activate yolov8

3、安装pytorch

1.检查是否安装pytorch：(新建环境则直接跳过检查)
在yolov8环境下输入：

python

import torch

import torchvision

torch.cuda.is_available()

2.安装pytorch
pytorch官网： https://pytorch.org/get-started/locally/

pip install torch torchvision torchaudio --extra-index-url https://download.pytorch.org/whl/cu116

若显示Successfully installed torch…则成功下载。

4、下载yolov8源码

github下载地址：https://github.com/ultralytics/ultralytics

5、设置PyCharm

1.设置PyCharm解释器
在PyCharm中打开项目文件ultralytics，并在setting中按照刚创建的conda环境来选择python Interpreter，在pycharm终端中显示（yolov8）前缀即成功

2.安装依赖
在PyCharm终端中安装依赖：

pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple

若出现 WARNING: Ignore distutils configs in setup.cfg due to encoding errors.
原因是未设置全为UTF-8，解决方法：

https://blog.csdn.net/weixin_37989267/article/details/128326603

python setup.py install

最后输出Finished processing则为成功。

6、测试

yolo task=segment mode=predict model=wighte/yolov8s.pt source=ultralytics/assets/bus.jpg save=true

结果保存到了对应的文件夹下的runs\detect\predict

二、数据集制作

1、指定格式存放数据集

在data目录下新建Annotations, images, ImageSets, labels 四个文件夹
images目录下存放数据集的图片文件
Annotations目录下存放图片的xml文件（labelImg标注）

2、按比例划分数据集

在yolov8根目录下新建一个文件splitDataset.py
随机分配训练/验证/测试集图片，代码如下所示：

import os
import random

trainval_percent = 0.9
train_percent = 0.9
xmlfilepath = 'data/Annotations'
txtsavepath = 'data/ImageSets'
total_xml = os.listdir(xmlfilepath)

num = len(total_xml)
list = range(num)
tv = int(num * trainval_percent)
tr = int(tv * train_percent)
trainval = random.sample(list, tv)
train = random.sample(trainval, tr)

ftrainval = open('data/ImageSets/trainval.txt', 'w')
ftest = open('data/ImageSets/test.txt', 'w')
ftrain = open('data/ImageSets/train.txt', 'w')
fval = open('data/ImageSets/val.txt', 'w')

for i in list:
    name = total_xml[i][:-4] + '\n'
    if i in trainval:
        ftrainval.write(name)
        if i in train:
            ftrain.write(name)
        else:
            fval.write(name)
    else:
        ftest.write(name)

ftrainval.close()
ftrain.close()
fval.close()
ftest.close()

3、将xml文件转换成txt文件

在同级目录下再新建一个文件XML2TXT.py
注意classes = [“…”]一定需要填写自己数据集的类别，在这里我是一个类别"fall"，因此classes = [“fall”]，代码如下所示：

# -*- coding: utf-8 -*-
# xml解析包
import xml.etree.ElementTree as ET
import pickle
import os
from os import listdir, getcwd
from os.path import join


sets = ['train', 'test', 'val']
classes = ['fall']


# 进行归一化操作
def convert(size, box): # size:(原图w,原图h) , box:(xmin,xmax,ymin,ymax)
    dw = 1./size[0]     # 1/w
    dh = 1./size[1]     # 1/h
    x = (box[0] + box[1])/2.0   # 物体在图中的中心点x坐标
    y = (box[2] + box[3])/2.0   # 物体在图中的中心点y坐标
    w = box[1] - box[0]         # 物体实际像素宽度
    h = box[3] - box[2]         # 物体实际像素高度
    x = x*dw    # 物体中心点x的坐标比(相当于 x/原图w)
    w = w*dw    # 物体宽度的宽度比(相当于 w/原图w)
    y = y*dh    # 物体中心点y的坐标比(相当于 y/原图h)
    h = h*dh    # 物体宽度的宽度比(相当于 h/原图h)
    return (x, y, w, h)    # 返回 相对于原图的物体中心点的x坐标比,y坐标比,宽度比,高度比,取值范围[0-1]


# year ='2012', 对应图片的id（文件名）
def convert_annotation(image_id):
    '''
    将对应文件名的xml文件转化为label文件，xml文件包含了对应的bunding框以及图片长款大小等信息，
    通过对其解析，然后进行归一化最终读到label文件中去，也就是说
    一张图片文件对应一个xml文件，然后通过解析和归一化，能够将对应的信息保存到唯一一个label文件中去
    labal文件中的格式：calss x y w h　　同时，一张图片对应的类别有多个，所以对应的ｂｕｎｄｉｎｇ的信息也有多个
    '''
    # 对应的通过year 找到相应的文件夹，并且打开相应image_id的xml文件，其对应bund文件
    in_file = open('data/Annotations/%s.xml' % (image_id), encoding='utf-8')
    # 准备在对应的image_id 中写入对应的label，分别为
    # <object-class> <x> <y> <width> <height>
    out_file = open('data/labels/%s.txt' % (image_id), 'w', encoding='utf-8')
    # 解析xml文件
    tree = ET.parse(in_file)
    # 获得对应的键值对
    root = tree.getroot()
    # 获得图片的尺寸大小
    size = root.find('size')
    # 如果xml内的标记为空，增加判断条件
    if size != None:
        # 获得宽
        w = int(size.find('width').text)
        # 获得高
        h = int(size.find('height').text)
        # 遍历目标obj
        for obj in root.iter('object'):
            # 获得difficult ？？
            difficult = obj.find('difficult').text
            # 获得类别 =string 类型
            cls = obj.find('name').text
            # 如果类别不是对应在我们预定好的class文件中，或difficult==1则跳过
            if cls not in classes or int(difficult) == 1:
                continue
            # 通过类别名称找到id
            cls_id = classes.index(cls)
            # 找到bndbox 对象
            xmlbox = obj.find('bndbox')
            # 获取对应的bndbox的数组 = ['xmin','xmax','ymin','ymax']
            b = (float(xmlbox.find('xmin').text), float(xmlbox.find('xmax').text), float(xmlbox.find('ymin').text),
                 float(xmlbox.find('ymax').text))
            print(image_id, cls, b)
            # 带入进行归一化操作
            # w = 宽, h = 高， b= bndbox的数组 = ['xmin','xmax','ymin','ymax']
            bb = convert((w, h), b)
            # bb 对应的是归一化后的(x,y,w,h)
            # 生成 calss x y w h 在label文件中
            out_file.write(str(cls_id) + " " + " ".join([str(a) for a in bb]) + '\n')


# 返回当前工作目录
wd = getcwd()
print(wd)


for image_set in sets:
    '''
    对所有的文件数据集进行遍历
    做了两个工作：
　　　　１．将所有图片文件都遍历一遍，并且将其所有的全路径都写在对应的txt文件中去，方便定位
　　　　２．同时对所有的图片文件进行解析和转化，将其对应的bundingbox 以及类别的信息全部解析写到label 文件中去
    　　　　　最后再通过直接读取文件，就能找到对应的label 信息
    '''
    # 先找labels文件夹如果不存在则创建
    if not os.path.exists('data/labels/'):
        os.makedirs('data/labels/')
    # 读取在ImageSets/Main 中的train、test..等文件的内容
    # 包含对应的文件名称
    image_ids = open('data/ImageSets/%s.txt' % (image_set)).read().strip().split()
    # 打开对应的2012_train.txt 文件对其进行写入准备
    list_file = open('data/%s.txt' % (image_set), 'w')
    # 将对应的文件_id以及全路径写进去并换行
    for image_id in image_ids:
        list_file.write('data/images/%s.jpg\n' % (image_id))
        # 调用  year = 年份  image_id = 对应的文件名_id
        convert_annotation(image_id)
    # 关闭文件
    list_file.close()

如果数据集中的类别比较多不想手敲类别的，可以使用（4）中的脚本直接获取类别，同时还能查看各个类别的数据量，如果不想可以直接跳过（4）

4、查看自定义数据集标签类别及数量

在同级目录下再新建一个文件ViewCategory.py，将代码复制进去

import os
from unicodedata import name
import xml.etree.ElementTree as ET
import glob


def count_num(indir):
    label_list = []
    # 提取xml文件列表
    os.chdir(indir)
    annotations = os.listdir('.')
    annotations = glob.glob(str(annotations) + '*.xml')

    dict = {}  # 新建字典，用于存放各类标签名及其对应的数目
    for i, file in enumerate(annotations):  # 遍历xml文件

        # actual parsing
        in_file = open(file, encoding='utf-8')
        tree = ET.parse(in_file)
        root = tree.getroot()

        # 遍历文件的所有标签
        for obj in root.iter('object'):
            name = obj.find('name').text
            if (name in dict.keys()):
                dict[name] += 1  # 如果标签不是第一次出现，则+1
            else:
                dict[name] = 1  # 如果标签是第一次出现，则将该标签名对应的value初始化为1

    # 打印结果
    print("各类标签的数量分别为：")
    for key in dict.keys():
        print(key + ': ' + str(dict[key]))
        label_list.append(key)
    print("标签类别如下：")
    print(label_list)


if __name__ == '__main__':
    # xml文件所在的目录，修改此处
    indir = 'data/Annotations'
    count_num(indir)  # 调用函数统计各类标签数目

至此数据集的准备已经就绪，索引文件在data目录下的train.txt/val.txt/test.txt

5、修改数据加载配置文件

进入data/文件夹，新建fall.yaml，内容如下，注意txt需要使用绝对路径

train: C:。。。/data/train.txt
val: C:。。。/data/val.txt
test: C:。。。/data/test.txt

# number of classes
nc: 1

# class names
names: ['AntiGlareBoard']

三、目标检测模型训练/验证、预测、导出

yolov8的训练采用命令行的模型。

1、模型训练

打开终端（或者pycharm等IDE），进入虚拟环境，随后进入yolov8文件夹，在终端中输入下面命令，即可开始训练。

yolo task=detect mode=train model=yolov8n.pt data=data/AntiGlareBoard.yaml batch=32 epochs=100 imgsz=640 workers=16 device=cpu

device=0 单卡训练
device=‘0,1,2,3’ 多卡训练
device=cpu

Note：
报错：关于OMP: Error #15: Initializing libiomp5md.dll, but found libiomp5md.dll already initialized.
解决方法：

https://zhuanlan.zhihu.com/p/371649016

2、模型验证

yolo task=detect mode=val model=runs/detect/train7/weights/best.pt data=data/AntiGlareBoard.yaml device=cpu

3、模型预测

source需要指定为自己的图像路径，或者摄像头（0）

yolo task=detect mode=predict model=runs/detect/train7/weights/best.pt source=data/images device=cpu
#save_txt参数确认将检测框坐标写入txt保存
#yolo task=detect mode=predict model=runs/detect/train7/weights/best.pt source=data/images device=cpu save_txt=True

这篇文章教学一种后处理方法（试了以后没啥变化。。。）

https://blog.csdn.net/Zeng999212/article/details/133748976?utm_medium=distribute.pc_relevant.none-task-blog-2_defaultbaidujs_utm_term~default-0-133748976-blog-128732494.235^v38pc_relevant_anti_t3&spm=1001.2101.3001.4242.1&utm_relevant_index=3

4、模型导出

1.安装onnx

pip install onnx  -i https://pypi.douban.com/simple/

2.模型导出

yolo task=detect mode=export model=runs/detect/train7/weights/best.pt format=onnx

参考文章：

https://blog.csdn.net/weixin_45921929/article/details/128673338?ops_request_misc=%257B%2522request%255Fid%2522%253A%2522169949381916800197017393%2522%252C%2522scm%2522%253A%252220140713.130102334…%2522%257D&request_id=169949381916800197017393&biz_id=0&utm_medium=distribute.pc_search_result.none-task-blog-2_alltop_positive~default-1-128673338-null-null.142^v96pc_search_result_base2&utm_term=yolov8%E8%AE%AD%E7%BB%83%E8%87%AA%E5%B7%B1%E7%9A%84%E6%95%B0%E6%8D%AE%E9%9B%86&spm=1018.2226.3001.4187
https://blog.csdn.net/weixin_61988885/article/details/129421538?share_token=dad53e58-4c3a-4935-9a84-56924d78a2af
https://blog.csdn.net/weixin_44752340/article/details/130846432?ops_request_misc=%257B%2522request%255Fid%2522%253A%2522169949381916800197017393%2522%252C%2522scm%2522%253A%252220140713.130102334…%2522%257D&request_id=169949381916800197017393&biz_id=0&utm_medium=distribute.pc_search_result.none-task-blog-2_alltop_positive~default-2-130846432-null-null.142^v96pc_search_result_base2&utm_term=yolov8%E8%AE%AD%E7%BB%83%E8%87%AA%E5%B7%B1%E7%9A%84%E6%95%B0%E6%8D%AE%E9%9B%86&spm=1018.2226.3001.4187
https://blog.csdn.net/weixin_46873015/article/details/130870481?ops_request_misc=%257B%2522request%255Fid%2522%253A%2522169945217916800225532765%2522%252C%2522scm%2522%253A%252220140713.130102334…%2522%257D&request_id=169945217916800225532765&biz_id=0&utm_medium=distribute.pc_search_result.none-task-blog-2_allsobaiduend~default-1-130870481-null-null.142^v96pc_search_result_base2&utm_term=anaconda%E5%AE%89%E8%A3%85yolov8&spm=1018.2226.3001.4187
https://blog.csdn.net/m0_63172128/article/details/131919441?ops_request_misc=&request_id=&biz_id=102&utm_term=anaconda%E5%AE%89%E8%A3%85yolov8&utm_medium=distribute.pc_search_result.none-task-blog-2_allsobaiduweb~default-5-131919441.142^v96pc_search_result_base2&spm=1018.2226.3001.4187
https://blog.csdn.net/xfsong2012/article/details/131558077?ops_request_misc=&request_id=&biz_id=102&utm_term=anaconda%E5%AE%89%E8%A3%85yolov8&utm_medium=distribute.pc_search_result.none-task-blog-2_allsobaiduweb~default-4-131558077.142^v96pc_search_result_base2&spm=1018.2226.3001.4187
https://blog.csdn.net/Maker_pace/article/details/128747075?ops_request_misc=%257B%2522request%255Fid%2522%253A%2522169951025916800227471498%2522%252C%2522scm%2522%253A%252220140713.130102334…%2522%257D&request_id=169951025916800227471498&biz_id=0&utm_medium=distribute.pc_search_result.none-task-blog-2_allsobaiduend~default-2-128747075-null-null.142^v96pc_search_result_base2&utm_term=anaconda%E5%AE%89%E8%A3%85yolov8&spm=1018.2226.3001.4187

这篇文章教学如何用Roboflow制作yolov8数据集

https://blog.csdn.net/m0_63172128/article/details/132057125?spm=1001.2014.3001.5501