DOTA数据集应用于Yolo-v4(-Tiny)系列3——使用Darknet框架的Yolov4(-Tiny)训练与推测

已于 2022-09-05 09:39:22 修改
阅读量1.5k 收藏 4
点赞数 1
分类专栏： DOTA与Yolov4(-Tiny) 文章标签： 深度学习 计算机视觉 目标检测
于 2022-09-04 18:00:42 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_41029027/article/details/126646368
版权

文章目录

前言

因为项目需要在Zynq开发板上实现深度网络的部署，采用Yolo-v4(-Tiny)两种目标检测模型，并使用武汉大学开源的DOTA数据集来训练和推断。因为此前使用计算机视觉相关的代码都是直接用已经处理好的数据集比如Pascal VOC、COCO、ImageNet等，DOTA数据集由于图片分辨率比较高，(2K-3K) * (2K-3K)分辨率，如果直接用于训练，效果不如将图片分割为多张图片，这样反而可以增加一张图片的目标框数量，对于提高模型精度十分有帮助。其次，DOTA数据集的标签格式不同于YOLO，所以需要在两种之间实现转换。此外，之前从未处理过raw的图片来制作数据集，所以也趁着这个机会对raw图做VOC或者YOLO格式的标签。另外在Darknet框架和Pytorch框架下都实现了Yolov4和Yolov4-Tiny框架的训练和推断。

趁着在部署到板子上之前，记录总结这一周多的工作。

由于篇幅较长，所以将分为几篇文章来记录。

本文在系列1数据集准备的基础上，使用Darknet框架源码训练和推断，本文是系列文章中的第3篇。仅依赖系列文章1和2就可以实现基于Pytorch框架下Yolov4和Yolov4-Tiny对DOTA数据集的训练和推断。而系列文章3和系列文章1实现基于Darknet框架下Yolov4和Yolov4-Tiny对DOTA数据集的训练和推断。

一、Darknet框架源码

环境：恒源云
源码：https://github.com/AlexeyAB/darknet

其中对恒源云的存储要求比较高，我在训练到尾声时的情况
在这里插入图片描述

二、调整数据集存放位置

2.1 按照VOC格式存放数据集

仿真VOC格式创建了多级文件夹

darknet-master下VOCdevkit/VOC2007
VOC2007/Annotations，VOC2007/ImageSets, VOC2007/JPEGImages
实际上Annotations下无文件，ImageSets下也无文件
而JPEGImages下有三个文件夹, JPEGImages/testexamplesplit, JPEGImages/trainexamplesplit, JPEGImages/valexamplesplit
每个xxxsplit下都有images文件夹(和labelYolo)，并存放切割好的图片(和转换后的YOLO标注文件)

事实上，根据我得到的结果，只需要关注JPEGImages文件夹即可，其中labelTxt就是原来的DOTA风格的标签文件，可以不放。
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

2.2 生成存有图片路径的.txt文件

生成的.txt文件的路径建议如下

darknet-master/dota_train.txt
darknet-master/dota_val.txt
darknet-master/dota_test.val

其中三个文件都是存有图片的路径，类似，我各给出文件的部分内容
dota_train.txt的部分内容

/hy-tmp/darknet-master/VOCdevkit/VOC2007/JPEGImages/trainexamplesplit/images/P0280__1__0___0.png
/hy-tmp/darknet-master/VOCdevkit/VOC2007/JPEGImages/trainexamplesplit/images/P0074__1__0___0.png
/hy-tmp/darknet-master/VOCdevkit/VOC2007/JPEGImages/trainexamplesplit/images/P0226__1__0___0.png

dota_test.txt的部分内容

/hy-tmp/darknet-master/VOCdevkit/VOC2007/JPEGImages/testexamplesplit/images/P0006__1__0___0.png
/hy-tmp/darknet-master/VOCdevkit/VOC2007/JPEGImages/testexamplesplit/images/P0006__1__0___505.png
/hy-tmp/darknet-master/VOCdevkit/VOC2007/JPEGImages/testexamplesplit/images/P0006__1__30___0.png

dota_val.txt的部分内容

/hy-tmp/darknet-master/VOCdevkit/VOC2007/JPEGImages/valexamplesplit/images/P0150__1__0___0.png
/hy-tmp/darknet-master/VOCdevkit/VOC2007/JPEGImages/valexamplesplit/images/P0228__1__0___0.png
/hy-tmp/darknet-master/VOCdevkit/VOC2007/JPEGImages/valexamplesplit/images/P0414__1__0___0.png

因此需要导出各个图片文件的路径并写入到.txt文件中，提供如下代码：

import os
import sys
def str2int(strnum):
    strlen=len(strnum)
    numtmp = 0
    for i in range(strlen):
        numtmp += pow(10,strlen-1-i) * int(strnum[i])
    
def listfiles(rootDir, txtfile, label=0):
    ftxtfile = open(txtfile, 'w')
    list_dirs = os.walk(rootDir)
    count = 0
    dircount = 0
    for root,dirs,files in list_dirs:
        #for d in dirs:
        #    print(os.path.join(root, d))
        #    dircount += 1
        ## 调整文件名顺序用以更新files
        #files_tmp = []
        for f in files:
            #print(os.path.join(root, f))
            #print(f.split('_'))
            #First = f.split('_')[0][1:]
            #First_num = int(First)
            #Second = f.split('_')[2]
            #Second_num = int(Second)
            #Third = f.split('_')[4]
            #Third_num = int(Third)
            #Fourth = f.split('_')[7].strip('.png')
            #Fourth_num = int(Fourth)
            #print("First is ",First, " Second is ", Second, " Third is ", Third, " Fourth is ",Fourth)
            #print("First_num is ",First_num, " Second_num is ", Second_num, " Third_num is ", Third_num, " Fourth_num is ",Fourth_num)
            
            ftxtfile.write(os.path.join(root, f) + '\n')
            count += 1
    print(rootDir + ' has ' + str(count) + ' files')
    #print('50 is ',int('50'))
 
listfiles('/hy-tmp/darknet-master/VOCdevkit/VOC2007/JPEGImages/testexamplesplit/images', '/hy-tmp/darknet-master/VOCdevkit/VOC2007/ImageSets/Main/test.txt')
listfiles('/hy-tmp/darknet-master/VOCdevkit/VOC2007/JPEGImages/trainexamplesplit/images', '/hy-tmp/darknet-master/VOCdevkit/VOC2007/ImageSets/Main/train.txt')
listfiles('/hy-tmp/darknet-master/VOCdevkit/VOC2007/JPEGImages/valexamplesplit/images', '/hy-tmp/darknet-master/VOCdevkit/VOC2007/ImageSets/Main/val.txt')

三、使用Yolov4训练与推断

3.1 训练

使用下述命令进行训练

./darknet detector train cfg/voc.data cfg/yolov4-custom.cfg yolov4.conv.137 -map

但是在使用之前，先比对一下下述几项：

3.1.1 voc.data的调整

voc.data内容需要调整为：

classes= 15
train  = /hy-tmp/darknet-master/dota_train.txt
valid  = /hy-tmp/darknet-master/dota_val.txt
names = data/dota.names
backup = /hy-tmp/darknet-master/backup

其中classes是指DOTA数据的分类数
其中train提供dota_train.txt的路径，其中valid提供dota_val.txt的路径，这两者都是在第2节中得到的。
其中backup提供最终得到的权重应该存放到/hy-tmp/darknet-master/backup路径下。
其中names提供dota.names的路径，dota.names内容如下：

plane
baseball-diamond
bridge
ground-track-field
small-vehicle
large-vehicle
ship
tennis-court
basketball-court
storage-tank
soccer-ball-field
roundabout
harbor
swimming-pool
helicopter

3.1.2 yolov4-custom.cfg的调整

yolov4-custom.cfg内容主要是注意两块，第一是

batch=64
subdivisions=16
width=416
height=416
channels=3
momentum=0.9
decay=0.0005
angle=0
saturation = 1.5
exposure = 1.5
hue=.1

learning_rate=0.00261
burn_in=1000
max_batches = 30000
policy=steps
steps=24000,27000
scales=.1,.1

第二是[yolo]前后的filters和classes。

[convolutional]
size=1
stride=1
pad=1
filters=60
activation=linear
[yolo]
mask = 3,4,5
anchors = 10,14,  23,27,  37,58,  81,82,  135,169,  344,319
classes=15

3.1.3 yolov4.conv.137下载

https://github.com/AlexeyAB/darknet/releases/download/darknet_yolo_v3_optimal/yolov4.conv.137

3.2 推断

使用以下命令即可推测

./darknet detector test cfg/voc.data cfg/yolov4-custom.cfg backup/yolov4-custom_best.weights inference/test/P0006.png

其中backup中存放着.weights文件，inference中存放test用的图片。
测试之前的原图
在这里插入图片描述
不做切割直接做推测的结果如下：
在这里插入图片描述
使用切割后的图，结果如下：
在这里插入图片描述
在这里插入图片描述

四、使用Yolov4-Tiny训练与推断

4.1 训练

使用下述命令训练

./darknet detector train cfg/voc.data cfg/yolov4-tiny-custom.cfg yolov4-tiny.conv.29 -map

4.1.1 voc.data的调整

同3.1.1

4.1.2 yolov4-tiny-custom.cfg的调整

修改重点同3.1.2

4.1.3 yolov4-tiny.conv.29下载

https://github.com/GotG/yolotinyv3_medmask_demo/blob/master/yolov4-tiny.conv.29

4.2 推断

使用以下命令即可推测

./darknet detector test cfg/voc.data cfg/yolov4-tiny-custom.cfg backup/yolov4-tiny-custom_best.weights inference/test/P0006.png

其中backup中存放着.weights文件，inference中存放test用的图片。
测试之前的原图
不做切割直接做推测的结果如下：
在这里插入图片描述
使用切割后的图，结果如下：
在这里插入图片描述
在这里插入图片描述

总结

从DOTA数据切割图片、标注风格转换再到使用两类框架下的Yolov4和Yolov4-Tiny目标检测训练和推测，就到此结束了。后续在Zynq Ultrascale+ MPSoC上部署，会对模型做量化等优化措施，同时会深入研究Xilinx提供的DPU工具链，欢迎关注。

DentionY
关注
  • 1
    点赞
  • 踩
  • 4
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 4
    评论
专栏目录
darknet训练yolov7-tiny(AlexeyAB版本)
07-18
继美团yolov6发布不久，v4作者重新操刀，最新目标检测出道。 因darknet框架下的模型训练，相对pytorch框架训练成本低，且作者也提供了darknet框架下的配置文件和预训练模型，本人也在评估darknet框架下的v7-tiny模型，再次将AlexeyAB大佬开源的模型和配置文件上传，给自己做一个备份。希望对大家有帮助。
Darknet版YOLOv3算法Visdrone数据集上训练结果
04-22
Darknet版YOLOv3算法Visdrone数据集上训练结果 1、包含训练好的weights权重文件，以及后缀为cfg、data、names的配置文件，并包含训练map曲线和loss曲线， 2、检测效果参考：https://blog.csdn.net/zhiqingAI/article/details/124230743
Darknet，看过很多篇，这个最清晰了
最新发布
dont worry about it的博客
04-22 4万+
YOLO（You Only Look Once）是Darknet的标志性应用之一，它是一种实时目标检测算法，能够在单次前向传播中检测图像中的多个对象，并输出它们的边界框和类别。YOLO的速度和效率使其成为自动驾驶、监控和无人机视觉等实时目标检测应用的理想选择。批量归一化是一种用于提升神经网络训练效率和性能的技术，由Sergey Ioffe和Christian Szegedy在2015年提出。Darknet是一个快速、轻量级且多功能的深度学习框架，特别擅长目标检测任务。
【目标检测数据集处理】DOTA格式数据集增强「包含图像处理，旋转，缩放等」
aosiweixin的博客
08-19 595
dota数据集增强方法
旋转框目标检测mmrotate v0.3.1 训练DOTA数据集（二）
qq_41627642的博客
06-28 8136
无
DarkNet移植到Zynq 706 ARM A9
liujie_learning的博客
07-24 1002
https://www.cnblogs.com/Osler/p/8780614.html
Yolov4部署到ZYNQ系列4-网络地址调整和部署
weixin_41029027的博客
10-02 1956
Yolov4部署到ZYNQ系列4-网络地址调整
darknet版YOLOv4官方权重文件yolov4-tiny.conv.29
02-27
darknet版YOLOv4官方权重文件，包括： 1、yolov4.weights 2、yolov4.conv.137 3、yolov4-tiny.conv.29 4、yolov4.conv.137.pth 5、yolo4_weights.pth
darknet版YOLOv3官方权重文件yolov3-tiny.conv.15
02-27
4. **yolov3-tiny.weights**: 同样，这是YOLOv3-Tiny模型的权重文件，可以在实际应用中直接使用，进行目标检测。 5. **yolov3.h5**: H5是HDF5文件格式，是一种通用的数据存储格式，常用于深度学习模型的权重保存。...
darknet版yolov3无人机检测训练权重 darknet-yolov3-drone-训练权重.zip
11-28
darknet版yolov3无人机检测训练权重，包括几万张图片训练好的yolov3-drone.weights和yolov3-tiny-drone.weights训练好的权重，并附上了测试的视频，用于检测空中的旋翼无人机，目标类别名为drone,有需要的可以下载
Pruned-OpenVINO-YOLO:在OpenVINO嵌入式设备上部署修剪后的YOLOv3v4v4-tinyv4-tiny-3l模型
05-03
请使用或修剪yolov4-tiny和yolov4-tiny-3l模型（提示：使用darknet调整修剪后的模型而无需加载权重）和转换权重2021-3-13更新了Mish-cuda支持。增强了代码对yolov4的适应性（训练更快，内存占用更少）介绍当在Open...
yolov4-custom-functions:在TensorFlow，TFLite和TensorRT中实现的针对YOLOv4，YOLOv4-tiny，YOLOv3和YOLOv3-tiny的多种自定义功能
03-19
yolov4-自定义功能 在TensorFlow，TFLite和TensorRT中实现的YOLOv4，YOLOv4-tiny，YOLOv3和YOLOv3-tiny的各种自定义功能。 免责声明：此存储库与我的存储库非常相似： 。我创建此存储库是为了探索要用YOLOv4实现的编码自定义功能，它们可能会使应用程序的总体速度变差，并且就时间复杂度而言未对其进行优化。因此，如果您想使用TensorFlow运行最佳的YOLOv4代码，而不是转到我的其他存储库。这是一个探索可以使用YOLOv4创建的很棒的自定义和应用程序！ 实际中的对象计数器自定义功能演示！ 当前支持的自定义功能和标志 如果要创建一个自定义功能，请在“问题”选项卡中创建一个问题并提出建议！如果有足够多的人建议使用相同的自定义功能，我会Swift添加！ 入门 conda（推荐） # Tensorflow CPU conda env c
YoloV4训练自己的数据集(六）之Yolo -Tiny
weixin_45718019的博客
01-24 5020
前文已经把YoloV4的训练以及测试介绍结束了。本文主要介绍YoloV4-Tiny网络的训练与使用。请大家一定要看完前面几个博客。 1.修改配置文件 YoloV4-tiny是简化版本的YoloV4，主要是为了满足计算能力紧张的开发者使用和学习。YoloV4-tiny在准确度上会有相当的下降，但是在运算时间上，也会有相当大的提升。下面我回简要介绍使用YoloV4-Tiny进行训练以及测试。关于数据集的建立以及网络的编译等过程均已在之前的博客中做过介绍，此处不再赘述。本文直接讲如何修改配置文件。 1.1修改vo
dota数据集的裁剪并转成xml格式
summer2day的博客
06-12 2913
import os import scipy.misc as misc from xml.dom.minidom import Document import numpy as np import copy, cv2 def save_to_xml(save_path, im_height, im_width, objects_axis, label_name,name): im_dep...
航空遥感图像(Aerial Images)目标检测数据集汇总
热门推荐
蚂蚁搬家
12-18 7万+
常规目标检测数据集有很多，现在前沿的目标检测算法（如Faster R-CNN, Yolo, SSD, Mask R-CNN等）基本都是在这些常规数据集上实验的，但是，基于常规数据集训练的分类器，在航空遥感图像上的检测效果并不好，主要原因是航空遥感图像有其特殊性： 1，尺度多样性，航空遥感图像从几百米到近万米的拍摄高度都有，且地面目标即使是同类目标也大小不一，如港口的轮船大的有300多米，小的也只...
使用DOTA数据集训练Faster R-CNN模型
大彤小忆的博客
12-25 2501
一、所需文件下载链接二、基础环境配置三、训练及测试过程   使用Faster R-CNN算法在DOTA数据集上实现目标检测。   使用Faster R-CNN算法在VOC2007数据集上实现目标检测的详细步骤→Windows10+Faster-RCNN-TensorFlow-Python3-master+VOC2007数据集。 一、所需文件下载链接 Faster R-CNN源码及操作步骤Github链接→Faster-RCNN-TensorFlow-Python3。 Faster-RCNN-Tensor.
yolov4-tiny从安装到训练再到python调用接口
yzy1119的博客
11-15 4543
（一）安装 在GitHub网址https://github.com/AlexeyAB/darknet下载最新版的darknetAB源码 解压后会生成名为darknet-master的文件夹 将解压的文件放到darknet的空文件夹下 下载 yolov4-tiny模型权重：yolov4-tiny模型权重文件，将下载好的权重放到darknet-master目录下 打开darknet-master目录下makefile文件，修改参数以适应于自己的计算机，GPU、CUDNN、OPENCV是主要修改的，其他参数根据自
Zynqnet(六) fpga_top解析（二）
crazyeden的博客
02-03 695
Zynqnet(五) fpga_top解析（一） https://blog.csdn.net/crazyeden/article/details/86654922 按照算法流程图，将会进行以下模块的计算，按照 y->x-> ch_in->ch_out->window_compute. 以下用保留主要演示代码： // Y Loop for (y = 0; y &l...
YOLO源码（Darknet源码）解读（network.c）
Enjoy Coding
04-18 4810
network.c#include <stdio.h> #include <time.h> #include <assert.h> #include "network.h" #include "image.h" #include "data.h" #include "utils.h" #include "blas.h" #i
yolo v4 - tiny
09-23
yolo v4 - tiny是一种目标检测算法，它是YOLO (You Only Look Once)系列中的一个版本。与YOLOv4相比，YOLOv4 - tiny是一个更轻量级的模型，适用于资源有限的设备或场景。 YOLOv4 - tiny使用了一种名为Darknet的架构，它由多个卷积层和池化层组成。与YOLOv4相比，YOLOv4 - tiny具有较少的层和参数，同时准确性略有下降，但是速度更快。 对于目标检测任务，YOLOv4 - tiny能够在图像或视频中实时地检测出多个对象的位置和类别。它可以用于物体识别、行人检测、交通监控等各种场景。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 4
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

DentionY

谢谢您的支持

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值