Yolov5训练自己的数据集(详细完整版)

Yolov5训练自己的数据集(详细完整版)

** 注:本文为本文为CSDN博主「缔宇diyu」的原创文章,在这里转载是为了记录一下,后期再复习的时候方便查找;**

版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
本文链接:https://blog.csdn.net/qq_45945548/article/details/121701492
————————————————
版权声明:本文为CSDN博主「缔宇diyu」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。
原文链接:https://blog.csdn.net/qq_45945548/article/details/121701492


最近在网上看到有与本博客一模一样的,连图片都一样。
特此声明:这是原版,转载请附原文链接,谢谢。

这次我将大部分图片添加了水印

推荐下本人另一篇博客:

最新安装anaconda与tensorflow、pytorch(详细完整版)

一. 环境(不能含有中文路径)

本教程使用环境:

  • pytorch: 1.10.0

  • python: 3.9

  • yolov5 v6.0

ps: 如果要使用GPU,cuda版本要 >=10.1

下载安装yolov5:

yolov5 v6.0官方要求 Python>=3.6 and PyTorch>=1.7

yolov5源码下载:https://github.com/ultralytics/yolov5

下载后,进入pytorch环境进入yolov5文件夹,使用换源的方法安装依赖。

如果你前面安装时没有换源,我强烈建议你使用换源的方法在安装一次

安装过的模块不会在安装,以防缺少模块,影响后续程序运行以及模型训练。

pip install -r requirements.txt -i  https://pypi.tuna.tsinghua.edu.cn/simple

 
 
  • 1

因为本教程主详细讲解训练自己的数据集,避免篇幅过多,因此这里不详细说明了。

二. 准备工作(文件夹及视频转图片)

因为这篇文章主要是给小白提供,所以数据集文件夹以及代码文件命名不是很标准,标准的自行去搜索查看coco数据集就行了。

为了排除一些意外情况,路径中就不要有短横杠-以及空格等等特殊字符。中文更不能要有。

  1. 在 yolov5目录下 新建文件夹 VOCData(可以自定义命名)

在这里插入图片描述

  1. 在VOCData下新建两个文件夹 Annotations 以及 images

images:用于存放要标注的图片(jpg格式)

这个和后续产生的 labels文件夹命名来源于yolov5/utils/datasets.py的第372行,你可进行查看。

Annotations :用于存放标注图片后产生的内容(这里采用XML格式)

后续使用代码保存位置如图

本教程需要用到图中的代码文件,这里先不用管,后面会给出代码。

在这里插入图片描述

这里提供本人编写的python代码,用于将视频转图片。

只需更改两个参数,视频路径以及间隔多少帧取图片。

python实现视频转图片_diyu-CSDN博客

代码运行,需要装有opencv模块,装opencv模块前需要装numpy模块。
所以,你可以选择进入pytorch环境进入代码所在文件夹,用命令行形式运行程序。

三. 使用labelImg标注图片

1. 安装labellmg

labelImg下载:https://github.com/tzutalin/labelImg

各种安装方法都在此链接中,这里只给出 windows +anaconda 进行安装。

ps: 如果你进入不了github,这里给出百度网盘链接

labellImg百度网盘链接:https://pan.baidu.com/s/1odKMu9nY6ueVJsiQwYRnkw
提取码:diyu

此labelImg是采用命令行形式运行,需要使用命令行安装一些依赖。

如果你认为这个太麻烦,网上有人打包好了此软件,可以自行去下载。

本人labellmg存放位置

在这里插入图片描述

打开 anaconda prompt (类似于cmd)

在这里插入图片描述

进入 labellmg文件夹

在这里插入图片描述

我建议就在base环境下进行安装labellmg,方便一点,你也可以进入pytorch环境下安装。

在哪个环境安装的就在哪个环境下启动软件。

执行命令前,建议更新一下conda
conda update -n base -c defaults conda

-n:指定更新哪个环境的conda,这里是base环境

windows +anaconda 安装方式如下:

依次执行下面命令 (不要连接外网)

conda install pyqt=5
conda install -c anaconda lxml
pyrcc5 -o libs/resources.py resources.qrc

 
 
  • 1
  • 2
  • 3
2. 使用labellmg

运行软件前可以更改下要标注的类别。

也可以进入软件后添加,不过那样每次进入软件都要添加,麻烦。

在这里插入图片描述

打开labellmg(要进入labellmg文件夹)

python labelImg.py   #运行软件

 
 
  • 1

勾选 auto save mode 自动保存

在这里插入图片描述
图片重新上传加了水印,模糊了见谅
在这里插入图片描述

格式就默认是XML格式,可以更改成yolo,这里就使用默认的XML格式

点击左方边栏或者屏幕右键选择 Create RectBox 即可进行标注。

尽可能的完全拟合标注物体,建议放大标注,也别放大狠了哈。

其它看个人标准。

如果数据集很多的话,可以考虑自动标注,当然,也不是全自动哈。

image-20211203131029366

四. 划分数据集以及配置文件修改

运行代码方式

  • 第一种:使用pycharm、vscode、python自带的IDLE。如果出现缺少模块的情况(no module named),你可以安装模块,也可以使用后一种方法。

  • 第二种:进入pytorch环境,进入代码所在目录,使用命令行形式运行(python + 程序名)

1. 划分训练集、验证集、测试集

在VOCData目录下创建程序 split_train_val.py 并运行

程序如下:(可以不更改)

# coding:utf-8

import os
import random
import argparse

parser = argparse.ArgumentParser()
#xml文件的地址,根据自己的数据进行修改 xml一般存放在Annotations下
parser.add_argument(‘–xml_path’, default=‘Annotations’, type=str, help=‘input xml label path’)
#数据集的划分,地址选择自己数据下的ImageSets/Main
parser.add_argument(‘–txt_path’, default=‘ImageSets/Main’, type=str, help=‘output txt label path’)
opt = parser.parse_args()

trainval_percent = 1.0 # 训练集和验证集所占比例。 这里没有划分测试集
train_percent = 0.9 # 训练集所占比例,可自己进行调整
xmlfilepath = opt.xml_path
txtsavepath = opt.txt_path
total_xml = os.listdir(xmlfilepath)
if not os.path.exists(txtsavepath):
os.makedirs(txtsavepath)

num = len(total_xml)
list_index = range(num)
tv = int(num trainval_percent)
tr = int(tv train_percent)
trainval = random.sample(list_index, tv)
train = random.sample(trainval, tr)

file_trainval = open(txtsavepath + ‘/trainval.txt’, ‘w’)
file_test = open(txtsavepath + ‘/test.txt’, ‘w’)
file_train = open(txtsavepath + ‘/train.txt’, ‘w’)
file_val = open(txtsavepath + ‘/val.txt’, ‘w’)

for i in list_index:
name = total_xml[i][:-4] + ‘\n’
if i in trainval:
file_trainval.write(name)
if i in train:
file_train.write(name)
else:
file_val.write(name)
else:
file_test.write(name)

file_trainval.close()
file_train.close()
file_val.close()
file_test.close()

  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
  • 21
  • 22
  • 23
  • 24
  • 25
  • 26
  • 27
  • 28
  • 29
  • 30
  • 31
  • 32
  • 33
  • 34
  • 35
  • 36
  • 37
  • 38
  • 39
  • 40
  • 41
  • 42
  • 43
  • 44
  • 45
  • 46
  • 47
  • 48

运行完毕后 会生成 ImagesSets\Main 文件夹,且在其下生成 测试集、训练集、验证集,存放图片的名字(无后缀.jpg)

由于没有分配测试集,所以测试集为空。

若要分配,更改第 14、15 行代码,更改所在比例即可。

在这里插入图片描述

2. XML格式转yolo_txt格式

在VOCData目录下创建程序 text_to_yolo.py 并运行

命名随意,我后面改成了 xml_to_yolo.py,更加的贴切。

程序如下:

需要将第 7 行改成自己所标注的类别 以及修改各绝对路径

绝对路径需为:d:\\images 或者 d:/images
双右斜线或者单左斜线

# -*- coding: utf-8 -*-
import xml.etree.ElementTree as ET
import os
from os import getcwd

sets = [‘train’, ‘val’, ‘test’]
classes = [“light”, “post”] # 改成自己的类别
abs_path = os.getcwd()
print(abs_path)

def convert(size, box):
dw = 1. / (size[0])
dh = 1. / (size[1])
x = (box[0] + box[1]) / 2.0 - 1
y = (box[2] + box[3]) / 2.0 - 1
w = box[1] - box[0]
h = box[3] - box[2]
x = x dw
w = w dw
y = y dh
h = h dh
return x, y, w, h

def convert_annotation(image_id):
in_file = open(‘D:/Yolov5/yolov5/VOCData/Annotations/%s.xml’ % (image_id), encoding=‘UTF-8’)
out_file = open(‘D:/Yolov5/yolov5/VOCData/labels/%s.txt’ % (image_id), ‘w’)
tree = ET.parse(in_file)
root = tree.getroot()
size = root.find(‘size’)
w = int(size.find(‘width’).text)
h = int(size.find(‘height’).text)
for obj in root.iter(‘object’):
difficult = obj.find(‘difficult’).text
#difficult = obj.find(‘Difficult’).text
cls = obj.find(‘name’).text
if cls not in classes or int(difficult) == 1:
continue
cls_id = classes.index(cls)
xmlbox = obj.find(‘bndbox’)
b = (float(xmlbox.find(‘xmin’).text), float(xmlbox.find(‘xmax’).text), float(xmlbox.find(‘ymin’).text),
float(xmlbox.find(‘ymax’).text))
b1, b2, b3, b4 = b
# 标注越界修正
if b2 > w:
b2 = w
if b4 > h:
b4 = h
b = (b1, b2, b3, b4)
bb = convert((w, h), b)
out_file.write(str(cls_id) + " “ + ” ".join([str(a) for a in bb]) + ‘\n’)

wd = getcwd()
for image_set in sets:
if not os.path.exists(‘D:/Yolov5/yolov5/VOCData/labels/’):
os.makedirs(‘D:/Yolov5/yolov5/VOCData/labels/’)
image_ids = open(‘D:/Yolov5/yolov5/VOCData/ImageSets/Main/%s.txt’ % (image_set)).read().strip().split()

<span class="token keyword">if</span> <span class="token keyword">not</span> os<span class="token punctuation">.</span>path<span class="token punctuation">.</span>exists<span class="token punctuation">(</span><span class="token string">'D:/Yolov5/yolov5/VOCData/dataSet_path/'</span><span class="token punctuation">)</span><span class="token punctuation">:</span>
    os<span class="token punctuation">.</span>makedirs<span class="token punctuation">(</span><span class="token string">'D:/Yolov5/yolov5/VOCData/dataSet_path/'</span><span class="token punctuation">)</span>
 
list_file <span class="token operator">=</span> <span class="token builtin">open</span><span class="token punctuation">(</span><span class="token string">'dataSet_path/%s.txt'</span> <span class="token operator">%</span> <span class="token punctuation">(</span>image_set<span class="token punctuation">)</span><span class="token punctuation">,</span> <span class="token string">'w'</span><span class="token punctuation">)</span>
<span class="token comment"># 这行路径不需更改,这是相对路径</span>
<span class="token keyword">for</span> image_id <span class="token keyword">in</span> image_ids<span class="token punctuation">:</span>
    list_file<span class="token punctuation">.</span>write<span class="token punctuation">(</span><span class="token string">'D:/Yolov5/yolov5/VOCData/images/%s.jpg\n'</span> <span class="token operator">%</span> <span class="token punctuation">(</span>image_id<span class="token punctuation">)</span><span class="token punctuation">)</span>
    convert_annotation<span class="token punctuation">(</span>image_id<span class="token punctuation">)</span>
list_file<span class="token punctuation">.</span>close<span class="token punctuation">(</span><span class="token punctuation">)</span>
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
  • 21
  • 22
  • 23
  • 24
  • 25
  • 26
  • 27
  • 28
  • 29
  • 30
  • 31
  • 32
  • 33
  • 34
  • 35
  • 36
  • 37
  • 38
  • 39
  • 40
  • 41
  • 42
  • 43
  • 44
  • 45
  • 46
  • 47
  • 48
  • 49
  • 50
  • 51
  • 52
  • 53
  • 54
  • 55
  • 56
  • 57
  • 58
  • 59
  • 60
  • 61
  • 62
  • 63
  • 64
  • 65
  • 66

运行后会生成如下 labels 文件夹和 dataSet_path 文件夹。

其中 labels 中为不同图像的标注文件。每个图像对应一个txt文件,文件每一行为一个目标的信息,包括class, x_center, y_center, width, height格式,这种即为 yolo_txt格式

在这里插入图片描述

dataSet_path文件夹包含三个数据集的txt文件,train.txt等txt文件为划分后图像所在位置的路径,如train.txt就含有所有训练集图像的路径。
在这里插入图片描述

3. 配置文件

在 yolov5 目录下的 data 文件夹下 新建一个 myvoc.yaml文件(可以自定义命名),用记事本打开。

内容是:

训练集以及验证集(train.txt和val.txt)的路径(可以改为相对路径

以及 目标的类别数目和类别名称。

注意这里的类别名称顺序,如果训练的结果是反的,这里修改重新训练。

在这里插入图片描述

给出模板: 冒号后面需要加空格

train: D:/Yolov5/yolov5/VOCData/dataSet_path/train.txt
val: D:/Yolov5/yolov5/VOCData/dataSet_path/val.txt

# number of classes
nc: 2

# class names
names: [“light”, “post”]

  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
3. 聚类获得先验框
3.1 生成anchors(两种方法)

有自动法以及手动法。

鉴于很多人在生成anchors文件这里出错,因此补上自动法

3.1.1 自动获取anchors

如果目录 yolov5/utils下有 autoanchor.py文件,那么就可以采用自动获取anchors。(yolov5版本偏低是没有的)

如果没有此文件。那么就只能手动获取更改anchors

在这里插入图片描述
确保 yolov5/data/hyps/hyp.cratch.yaml中的anchors这行是注释掉的

在这里插入图片描述

采用自动法的话,不用运行,训练时自动调用

如果自动获取anchors的话,训练时只要不添加参数 --noautoanchor(后面会介绍),就会自动运行autoanchor.py。

原理就是通过检测计算 Best Possible Recall (BPR),来判断是否重新计算anchors。如果BPR<0.98时(最高是1),会自动通过k-means(欧式距离)聚类得到新的anchors。

图中大于0.98,所以没有更新anchors。

在这里插入图片描述
我这里不清楚 BPR<0.98的具体情况,我只知道会重新计算anchors,但是是否需要我们将重新生成的anchors像手动法那样去修改anchors就不清楚了。
按理应该是不需要的,如果训练时重新生成anchors后会停止训练,那么应该是需要我们修改ahchors。

3.1.2 手动获取anchors

在VOCData目录下创建程序两个程序 kmeans.py 以及 clauculate_anchors.py

不需要运行 kmeans.py,运行 clauculate_anchors.py 即可。

kmeans.py 程序如下:这不需要运行,也不需要更改

如果报错,可以查看第 13 行内容

import numpy as np

def iou(box, clusters):
“”"
Calculates the Intersection over Union (IoU) between a box and k clusters.
:param box: tuple or array, shifted to the origin (i. e. width and height)
:param clusters: numpy array of shape (k, 2) where k is the number of clusters
:return: numpy array of shape (k, 0) where k is the number of clusters
“”"

x = np.minimum(clusters[:, 0], box[0])
y = np.minimum(clusters[:, 1], box[1])
if np.count_nonzero(x 0) > 0 or np.count_nonzero(y 0) > 0:
raise ValueError(“Box has no area”) # 如果报这个错,可以把这行改成pass即可

intersection <span class="token operator">=</span> x <span class="token operator">*</span> y
box_area <span class="token operator">=</span> box<span class="token punctuation">[</span><span class="token number">0</span><span class="token punctuation">]</span> <span class="token operator">*</span> box<span class="token punctuation">[</span><span class="token number">1</span><span class="token punctuation">]</span>
cluster_area <span class="token operator">=</span> clusters<span class="token punctuation">[</span><span class="token punctuation">:</span><span class="token punctuation">,</span> <span class="token number">0</span><span class="token punctuation">]</span> <span class="token operator">*</span> clusters<span class="token punctuation">[</span><span class="token punctuation">:</span><span class="token punctuation">,</span> <span class="token number">1</span><span class="token punctuation">]</span>

iou_ <span class="token operator">=</span> intersection <span class="token operator">/</span> <span class="token punctuation">(</span>box_area <span class="token operator">+</span> cluster_area <span class="token operator">-</span> intersection<span class="token punctuation">)</span>

<span class="token keyword">return</span> iou_

def avg_iou(boxes, clusters):
“”"
Calculates the average Intersection over Union (IoU) between a numpy array of boxes and k clusters.
:param boxes: numpy array of shape (r, 2), where r is the number of rows
:param clusters: numpy array of shape (k, 2) where k is the number of clusters
:return: average IoU as a single float
“”"

return np.mean([np.max(iou(boxes[i], clusters)) for i in range(boxes.shape[0])])

def translate_boxes(boxes):
“”"
Translates all the boxes to the origin.
:param boxes: numpy array of shape (r, 4)
:return: numpy array of shape (r, 2)
“”"

new_boxes = boxes.copy()
for row in range(new_boxes.shape[0]):
new_boxes[row][2] = np.abs(new_boxes[row][2] - new_boxes[row][0])
new_boxes[row][3] = np.abs(new_boxes[row][3] - new_boxes[row][1])
return np.delete(new_boxes, [0, 1], axis=1)

def kmeans(boxes, k, dist=np.median):
“”"
Calculates k-means clustering with the Intersection over Union (IoU) metric.
:param boxes: numpy array of shape (r, 2), where r is the number of rows
:param k: number of clusters
:param dist: distance function
:return: numpy array of shape (k, 2)
“”"

rows = boxes.shape[0]

distances <span class="token operator">=</span> np<span class="token punctuation">.</span>empty<span class="token punctuation">(</span><span class="token punctuation">(</span>rows<span class="token punctuation">,</span> k<span class="token punctuation">)</span><span class="token punctuation">)</span>
last_clusters <span class="token operator">=</span> np<span class="token punctuation">.</span>zeros<span class="token punctuation">(</span><span class="token punctuation">(</span>rows<span class="token punctuation">,</span><span class="token punctuation">)</span><span class="token punctuation">)</span>

np<span class="token punctuation">.</span>random<span class="token punctuation">.</span>seed<span class="token punctuation">(</span><span class="token punctuation">)</span>

<span class="token comment"># the Forgy method will fail if the whole array contains the same rows</span>
clusters <span class="token operator">=</span> boxes<span class="token punctuation">[</span>np<span class="token punctuation">.</span>random<span class="token punctuation">.</span>choice<span class="token punctuation">(</span>rows<span class="token punctuation">,</span> k<span class="token punctuation">,</span> replace<span class="token operator">=</span><span class="token boolean">False</span><span class="token punctuation">)</span><span class="token punctuation">]</span>

<span class="token keyword">while</span> <span class="token boolean">True</span><span class="token punctuation">:</span>
    <span class="token keyword">for</span> row <span class="token keyword">in</span> <span class="token builtin">range</span><span class="token punctuation">(</span>rows<span class="token punctuation">)</span><span class="token punctuation">:</span>
        distances<span class="token punctuation">[</span>row<span class="token punctuation">]</span> <span class="token operator">=</span> <span class="token number">1</span> <span class="token operator">-</span> iou<span class="token punctuation">(</span>boxes<span class="token punctuation">[</span>row<span class="token punctuation">]</span><span class="token punctuation">,</span> clusters<span class="token punctuation">)</span>

    nearest_clusters <span class="token operator">=</span> np<span class="token punctuation">.</span>argmin<span class="token punctuation">(</span>distances<span class="token punctuation">,</span> axis<span class="token operator">=</span><span class="token number">1</span><span class="token punctuation">)</span>

    <span class="token keyword">if</span> <span class="token punctuation">(</span>last_clusters <span class="token operator">==</span> nearest_clusters<span class="token punctuation">)</span><span class="token punctuation">.</span><span class="token builtin">all</span><span class="token punctuation">(</span><span class="token punctuation">)</span><span class="token punctuation">:</span>
        <span class="token keyword">break</span>

    <span class="token keyword">for</span> cluster <span class="token keyword">in</span> <span class="token builtin">range</span><span class="token punctuation">(</span>k<span class="token punctuation">)</span><span class="token punctuation">:</span>
        clusters<span class="token punctuation">[</span>cluster<span class="token punctuation">]</span> <span class="token operator">=</span> dist<span class="token punctuation">(</span>boxes<span class="token punctuation">[</span>nearest_clusters <span class="token operator">==</span> cluster<span class="token punctuation">]</span><span class="token punctuation">,</span> axis<span class="token operator">=</span><span class="token number">0</span><span class="token punctuation">)</span>

    last_clusters <span class="token operator">=</span> nearest_clusters

<span class="token keyword">return</span> clusters

if name == main:
a = np.array([[1, 2, 3, 4], [5, 7, 6, 8]])
print(translate_boxes(a))

  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
  • 21
  • 22
  • 23
  • 24
  • 25
  • 26
  • 27
  • 28
  • 29
  • 30
  • 31
  • 32
  • 33
  • 34
  • 35
  • 36
  • 37
  • 38
  • 39
  • 40
  • 41
  • 42
  • 43
  • 44
  • 45
  • 46
  • 47
  • 48
  • 49
  • 50
  • 51
  • 52
  • 53
  • 54
  • 55
  • 56
  • 57
  • 58
  • 59
  • 60
  • 61
  • 62
  • 63
  • 64
  • 65
  • 66
  • 67
  • 68
  • 69
  • 70
  • 71
  • 72
  • 73
  • 74
  • 75
  • 76
  • 77
  • 78
  • 79
  • 80
  • 81

运行:clauculate_anchors.py

会调用 kmeans.py 聚类生成新anchors的文件

程序如下:

需要更改第 9 、13行文件绝对路径 以及 第 16 行标注类别名称

# -*- coding: utf-8 -*-
# 根据标签文件求先验框

import os
import numpy as np
import xml.etree.cElementTree as et
from kmeans import kmeans, avg_iou

FILE_ROOT = “D:/Yolov5/yolov5/VOCData/” # 根路径
ANNOTATION_ROOT = “Annotations” # 数据集标签文件夹路径
ANNOTATION_PATH = FILE_ROOT + ANNOTATION_ROOT

ANCHORS_TXT_PATH = “D:/Yolov5/yolov5/VOCData/anchors.txt” #anchors文件保存位置

CLUSTERS = 9
CLASS_NAMES = [‘light’, ‘post’] #类别名称

def load_data(anno_dir, class_names):
xml_names = os.listdir(anno_dir)
boxes = []
for xml_name in xml_names:
xml_pth = os.path.join(anno_dir, xml_name)
tree = et.parse(xml_pth)

    width <span class="token operator">=</span> <span class="token builtin">float</span><span class="token punctuation">(</span>tree<span class="token punctuation">.</span>findtext<span class="token punctuation">(</span><span class="token string">"./size/width"</span><span class="token punctuation">)</span><span class="token punctuation">)</span>
    height <span class="token operator">=</span> <span class="token builtin">float</span><span class="token punctuation">(</span>tree<span class="token punctuation">.</span>findtext<span class="token punctuation">(</span><span class="token string">"./size/height"</span><span class="token punctuation">)</span><span class="token punctuation">)</span>

    <span class="token keyword">for</span> obj <span class="token keyword">in</span> tree<span class="token punctuation">.</span>findall<span class="token punctuation">(</span><span class="token string">"./object"</span><span class="token punctuation">)</span><span class="token punctuation">:</span>
        cls_name <span class="token operator">=</span> obj<span class="token punctuation">.</span>findtext<span class="token punctuation">(</span><span class="token string">"name"</span><span class="token punctuation">)</span>
        <span class="token keyword">if</span> cls_name <span class="token keyword">in</span> class_names<span class="token punctuation">:</span>
            xmin <span class="token operator">=</span> <span class="token builtin">float</span><span class="token punctuation">(</span>obj<span class="token punctuation">.</span>findtext<span class="token punctuation">(</span><span class="token string">"bndbox/xmin"</span><span class="token punctuation">)</span><span class="token punctuation">)</span> <span class="token operator">/</span> width
            ymin <span class="token operator">=</span> <span class="token builtin">float</span><span class="token punctuation">(</span>obj<span class="token punctuation">.</span>findtext<span class="token punctuation">(</span><span class="token string">"bndbox/ymin"</span><span class="token punctuation">)</span><span class="token punctuation">)</span> <span class="token operator">/</span> height
            xmax <span class="token operator">=</span> <span class="token builtin">float</span><span class="token punctuation">(</span>obj<span class="token punctuation">.</span>findtext<span class="token punctuation">(</span><span class="token string">"bndbox/xmax"</span><span class="token punctuation">)</span><span class="token punctuation">)</span> <span class="token operator">/</span> width
            ymax <span class="token operator">=</span> <span class="token builtin">float</span><span class="token punctuation">(</span>obj<span class="token punctuation">.</span>findtext<span class="token punctuation">(</span><span class="token string">"bndbox/ymax"</span><span class="token punctuation">)</span><span class="token punctuation">)</span> <span class="token operator">/</span> height

            box <span class="token operator">=</span> <span class="token punctuation">[</span>xmax <span class="token operator">-</span> xmin<span class="token punctuation">,</span> ymax <span class="token operator">-</span> ymin<span class="token punctuation">]</span>
            boxes<span class="token punctuation">.</span>append<span class="token punctuation">(</span>box<span class="token punctuation">)</span>
        <span class="token keyword">else</span><span class="token punctuation">:</span>
            <span class="token keyword">continue</span>
<span class="token keyword">return</span> np<span class="token punctuation">.</span>array<span class="token punctuation">(</span>boxes<span class="token punctuation">)</span>

if name == main:

anchors_txt <span class="token operator">=</span> <span class="token builtin">open</span><span class="token punctuation">(</span>ANCHORS_TXT_PATH<span class="token punctuation">,</span> <span class="token string">"w"</span><span class="token punctuation">)</span>

train_boxes <span class="token operator">=</span> load_data<span class="token punctuation">(</span>ANNOTATION_PATH<span class="token punctuation">,</span> CLASS_NAMES<span class="token punctuation">)</span>
count <span class="token operator">=</span> <span class="token number">1</span>
best_accuracy <span class="token operator">=</span> <span class="token number">0</span>
best_anchors <span class="token operator">=</span> <span class="token punctuation">[</span><span class="token punctuation">]</span>
best_ratios <span class="token operator">=</span> <span class="token punctuation">[</span><span class="token punctuation">]</span>

<span class="token keyword">for</span> i <span class="token keyword">in</span> <span class="token builtin">range</span><span class="token punctuation">(</span><span class="token number">10</span><span class="token punctuation">)</span><span class="token punctuation">:</span>      <span class="token comment">##### 可以修改,不要太大,否则时间很长</span>
    anchors_tmp <span class="token operator">=</span> <span class="token punctuation">[</span><span class="token punctuation">]</span>
    clusters <span class="token operator">=</span> kmeans<span class="token punctuation">(</span>train_boxes<span class="token punctuation">,</span> k<span class="token operator">=</span>CLUSTERS<span class="token punctuation">)</span>
    idx <span class="token operator">=</span> clusters<span class="token punctuation">[</span><span class="token punctuation">:</span><span class="token punctuation">,</span> <span class="token number">0</span><span class="token punctuation">]</span><span class="token punctuation">.</span>argsort<span class="token punctuation">(</span><span class="token punctuation">)</span>
    clusters <span class="token operator">=</span> clusters<span class="token punctuation">[</span>idx<span class="token punctuation">]</span>
    <span class="token comment"># print(clusters)</span>

    <span class="token keyword">for</span> j <span class="token keyword">in</span> <span class="token builtin">range</span><span class="token punctuation">(</span>CLUSTERS<span class="token punctuation">)</span><span class="token punctuation">:</span>
        anchor <span class="token operator">=</span> <span class="token punctuation">[</span><span class="token builtin">round</span><span class="token punctuation">(</span>clusters<span class="token punctuation">[</span>j<span class="token punctuation">]</span><span class="token punctuation">[</span><span class="token number">0</span><span class="token punctuation">]</span> <span class="token operator">*</span> <span class="token number">640</span><span class="token punctuation">,</span> <span class="token number">2</span><span class="token punctuation">)</span><span class="token punctuation">,</span> <span class="token builtin">round</span><span class="token punctuation">(</span>clusters<span class="token punctuation">[</span>j<span class="token punctuation">]</span><span class="token punctuation">[</span><span class="token number">1</span><span class="token punctuation">]</span> <span class="token operator">*</span> <span class="token number">640</span><span class="token punctuation">,</span> <span class="token number">2</span><span class="token punctuation">)</span><span class="token punctuation">]</span>
        anchors_tmp<span class="token punctuation">.</span>append<span class="token punctuation">(</span>anchor<span class="token punctuation">)</span>
        <span class="token keyword">print</span><span class="token punctuation">(</span><span class="token string-interpolation"><span class="token string">f"Anchors:</span><span class="token interpolation"><span class="token punctuation">{<!-- --></span>anchor<span class="token punctuation">}</span></span><span class="token string">"</span></span><span class="token punctuation">)</span>

    temp_accuracy <span class="token operator">=</span> avg_iou<span class="token punctuation">(</span>train_boxes<span class="token punctuation">,</span> clusters<span class="token punctuation">)</span> <span class="token operator">*</span> <span class="token number">100</span>
    <span class="token keyword">print</span><span class="token punctuation">(</span><span class="token string">"Train_Accuracy:{:.2f}%"</span><span class="token punctuation">.</span><span class="token builtin">format</span><span class="token punctuation">(</span>temp_accuracy<span class="token punctuation">)</span><span class="token punctuation">)</span>

    ratios <span class="token operator">=</span> np<span class="token punctuation">.</span>around<span class="token punctuation">(</span>clusters<span class="token punctuation">[</span><span class="token punctuation">:</span><span class="token punctuation">,</span> <span class="token number">0</span><span class="token punctuation">]</span> <span class="token operator">/</span> clusters<span class="token punctuation">[</span><span class="token punctuation">:</span><span class="token punctuation">,</span> <span class="token number">1</span><span class="token punctuation">]</span><span class="token punctuation">,</span> decimals<span class="token operator">=</span><span class="token number">2</span><span class="token punctuation">)</span><span class="token punctuation">.</span>tolist<span class="token punctuation">(</span><span class="token punctuation">)</span>
    ratios<span class="token punctuation">.</span>sort<span class="token punctuation">(</span><span class="token punctuation">)</span>
    <span class="token keyword">print</span><span class="token punctuation">(</span><span class="token string">"Ratios:{}"</span><span class="token punctuation">.</span><span class="token builtin">format</span><span class="token punctuation">(</span>ratios<span class="token punctuation">)</span><span class="token punctuation">)</span>
    <span class="token keyword">print</span><span class="token punctuation">(</span><span class="token number">20</span> <span class="token operator">*</span> <span class="token string">"*"</span> <span class="token operator">+</span> <span class="token string">" {} "</span><span class="token punctuation">.</span><span class="token builtin">format</span><span class="token punctuation">(</span>count<span class="token punctuation">)</span> <span class="token operator">+</span> <span class="token number">20</span> <span class="token operator">*</span> <span class="token string">"*"</span><span class="token punctuation">)</span>

    count <span class="token operator">+=</span> <span class="token number">1</span>

    <span class="token keyword">if</span> temp_accuracy <span class="token operator">&gt;</span> best_accuracy<span class="token punctuation">:</span>
        best_accuracy <span class="token operator">=</span> temp_accuracy
        best_anchors <span class="token operator">=</span> anchors_tmp
        best_ratios <span class="token operator">=</span> ratios

anchors_txt<span class="token punctuation">.</span>write<span class="token punctuation">(</span><span class="token string">"Best Accuracy = "</span> <span class="token operator">+</span> <span class="token builtin">str</span><span class="token punctuation">(</span><span class="token builtin">round</span><span class="token punctuation">(</span>best_accuracy<span class="token punctuation">,</span> <span class="token number">2</span><span class="token punctuation">)</span><span class="token punctuation">)</span> <span class="token operator">+</span> <span class="token string">'%'</span> <span class="token operator">+</span> <span class="token string">"\r\n"</span><span class="token punctuation">)</span>
anchors_txt<span class="token punctuation">.</span>write<span class="token punctuation">(</span><span class="token string">"Best Anchors = "</span> <span class="token operator">+</span> <span class="token builtin">str</span><span class="token punctuation">(</span>best_anchors<span class="token punctuation">)</span> <span class="token operator">+</span> <span class="token string">"\r\n"</span><span class="token punctuation">)</span>
anchors_txt<span class="token punctuation">.</span>write<span class="token punctuation">(</span><span class="token string">"Best Ratios = "</span> <span class="token operator">+</span> <span class="token builtin">str</span><span class="token punctuation">(</span>best_ratios<span class="token punctuation">)</span><span class="token punctuation">)</span>
anchors_txt<span class="token punctuation">.</span>close<span class="token punctuation">(</span><span class="token punctuation">)</span>
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
  • 21
  • 22
  • 23
  • 24
  • 25
  • 26
  • 27
  • 28
  • 29
  • 30
  • 31
  • 32
  • 33
  • 34
  • 35
  • 36
  • 37
  • 38
  • 39
  • 40
  • 41
  • 42
  • 43
  • 44
  • 45
  • 46
  • 47
  • 48
  • 49
  • 50
  • 51
  • 52
  • 53
  • 54
  • 55
  • 56
  • 57
  • 58
  • 59
  • 60
  • 61
  • 62
  • 63
  • 64
  • 65
  • 66
  • 67
  • 68
  • 69
  • 70
  • 71
  • 72
  • 73
  • 74
  • 75
  • 76
  • 77
  • 78
  • 79
  • 80
  • 81
  • 82

会生成anchors文件。如果生成文件为空,重新运行即可

如果还是为空,看下是不是类别没有更改。

第二行 Best Anchors 后面需要用到。(这就是手动获取到的anchors的值)

image-20211203143057111

3.2 修改模型配置文件

选择一个模型,在yolov5目录下的model文件夹下是模型的配置文件,有n、s、m、l、x版本,逐渐增大(随着架构的增大,训练时间也是逐渐增大)。

这里放一些官方数据:GitHub - ultralytics/yolov5

在这里插入图片描述

Modelsize (pixels)mAPval 0.5:0.95mAPval 0.5Speed CPU b1 (ms)Speed V100 b1 (ms)Speed V100 b32 (ms)params (M)FLOPs @640 (B)
YOLOv5n64028.446.0456.30.61.94.5
YOLOv5s64037.256.0986.40.97.216.5
YOLOv5m64045.263.92248.21.721.249.0
YOLOv5l64048.867.243010.12.746.5109.1
YOLOv5x64050.768.976612.14.886.7205.7

这里选用 yolov5s.yaml

在这里插入图片描述

使用记事本打开 yolov5s.yaml。

修改参数

  • 采用自动法获取anchors,只需更改nc 标注类别数,不用更改anchors

按理应该是不需修改anchors的,我在前面自动法那里提过,如果后续训练时自动计算出了anchors后暂停了训练,那么应该是需要我们根据生成的anchors来修改。

在这里插入图片描述

  • 手动法获取anchors需要更改两个参数

把 nc 改成自己的标注类别数

修改anchors,根据 anchors.txt 中的 Best Anchors 修改,需要取整(四舍五入、向上、向下都可以)。

保持yaml中的anchors格式不变,按顺序一对一即可。
在这里插入图片描述

五. 模型训练

1. 开始训练

打开yolov5 目录下的 train.py 程序,我们可以多看看这些参数使用。

在这里插入图片描述

常用参数解释如下:

这个大部分借鉴了参考链接。

weights:权重文件路径

cfg:存储模型结构的配置文件

data:存储训练、测试数据的文件

epochs:指的就是训练过程中整个数据集将被迭代(训练)了多少次,显卡不行你就调小点。

batch-size:训练完多少张图片才进行权重更新,显卡不行就调小点。

img-size:输入图片宽高,显卡不行就调小点。

device:cuda device, i.e. 0 or 0,1,2,3 or cpu。选择使用GPU还是CPU

workers:线程数。默认是8。

其它参数解释:

noautoanchor:不自动检验更新anchors
rect:进行矩形训练

resume:恢复最近保存的模型开始训练

nosave:仅保存最终checkpoint

notest:仅测试最后的epoch

evolve:进化超参数

bucket:gsutil bucket

cache-images:缓存图像以加快训练速度

name: 重命名results.txt to results_name.txt

adam:使用adam优化

multi-scale:多尺度训练,img-size +/- 50%

single-cls:单类别的训练集

进入pytorch环境,进入yolov5文件夹

image-20211203151106596

训练命令如下:

如果出现问题,查看后面问题说明!

python train.py --weights weights/yolov5s.pt  --cfg models/yolov5s.yaml  --data data/myvoc.yaml --epoch 200 --batch-size 8 --img 640   --device cpu

 
 
  • 1

–weights weights/yolov5s.pt :这个也许你需要更改路径。我是将yolov5的pt文件都放在weights目录下,你可能没有,需要更改路径。

–epoch 200 :训练200次

–batch-size 8:训练8张图片后进行权重更新

–device cpu:使用CPU训练。

如果采用手动法获取anchors,可以选择补充添加参数 --noautoanchor,也可以不添加(解释如下)

参数解释在上面。如果是自动法,这个参数不要加;

如果是手动获取并更改了anchors的,而且没有添加参数 --noautoanchor,训练时会计算BPR,并且得到的BPR应该是为1的(或者极为接近1),所以不会更新anchors。因此,手动法的话这个参数添不添加无所谓的。

2. 训练过程

如果你不想看到这些警告,网上是有办法消除的,自行寻找了。

如果你使用GPU训练也有类似下面这个,那是你 cuda 版本不对(不是>=10.1的版本),版本不对无法使用cuda。

在这里插入图片描述

训练好的模型会被保存在 yolov5 目录下的 runs/train/weights/ 下

在这里插入图片描述

3. 训练时间
  1. 我这里四百多张图片,使用CPU训练了一百二十几次(虽然设的200次,但我中途终止了),大概花了5、6个小时吧,时间比较久了忘了。
  2. 我同学 70张图片训练70次,使用CPU训练花了 一个多小时。

上述时间只限于电脑风扇转动的情况下,如果你电脑限制性能,风扇不转动,那时间将会是个未知(一般是好几倍)

4. 相关问题

如果出现缺少模块的情况(no module named)

回到博客最开始部分,使用换源的方法补充安装yolov5的依赖。

如果出现 (页面太小,无法完成操作)的相关问题

那是虚拟内存不足,重新打开页面或者重启电脑试试(这个方法解决的可能性比较低),降低线程 --workes (默认是8) 。最后再试试调小 --batch-size,降低 --epoch

我有几个同学 --workers指定为0才成功。

如果都不行,可以看看这个链接 https://product.pconline.com.cn/itbk/software/dnyw/1707/9679137.html

如果训练过程中出现 memory error

那是内存超了,减小 --batch-size 试试,如果还不行降低 --epoch。

我同学将 --epoch 设为100次,–batch-size设为3才成功。
–epoch建议尽量在100次往上吧

重复训练的话,你也许需要将这两个缓存清除掉。

在这里插入图片描述

5. 训练可视化

训练时或者训练后可以利用 tensorboard 查看训练可视化

tensorboard --logdir=runs

 
 
  • 1

与训练一样,进入pytorch环境,进入yolov5文件夹执行。

在这里插入图片描述
在这里插入图片描述

六. 检测效果

python detect.py --source 0  # webcam  自带摄像头
                            file.jpg  # image 图片
                            file.mp4  # video 视频
                            path/  # directory
                            path/*.jpg  # glob
                            'https://youtu.be/NUsoVlDFqZg'  # YouTube
                            'rtsp://example.com/media.mp4'  # RTSP, RTMP, HTTP stream

 
 
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7

我们使用刚刚训练出的最好的模型 best.pt 来测试,在yolov5目录下的 runs/train/exp/weights 。


 python detect.py --weights runs/train/exp/weights/best.pt --source ../data/video/tram.mp4

 
 
  • 1
  • 2

../ 代表当前目录的上一级目录

测试结果保存在 yolov5/runs/detect 目录下

请添加图片描述

七. 模型评估与推理

这个就请查看第一个参考链接了,我就不说明了,注意下版本问题哈

八. 参考链接(感谢)

有帮助的话,不求一键三连,点个赞还是可以的吧,笔芯

这些问题都是在我朋友身上遇到的,各种纷杂问题都有,这里只保留了部分问题。

文章知识点与官方知识档案匹配,可进一步学习相关知识
Python入门技能树人工智能计算机视觉 342613 人正在系统学习中
  • 0
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值