darknet yolov3 GPU设置及问题解决 和 darknet训练中输出参数avg等的含义

最新推荐文章于 2024-04-15 23:10:48 发布
最新推荐文章于 2024-04-15 23:10:48 发布
阅读量3k 收藏 16
点赞数 2
分类专栏： AI Linux Python 文章标签： 深度学习 pytorch 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/u010879745/article/details/120606921
版权
Linux 同时被 3 个专栏收录
55 篇文章 1 订阅
订阅专栏
Python
34 篇文章 3 订阅
订阅专栏
AI
29 篇文章 2 订阅
订阅专栏

Makefile 中 ARCH参数设置

我的计算机设置为
ARCH= -gencode arch=compute_50,code=[sm_50,compute_50]
显卡为GTX 950M

网上介绍一堆堆原理，没一个实用的参数设置，这里给你需要的东西

查看CUDA版本
john@john-wang:~/yolov3/yolov3_mask_detect$ nvcc -V

查看显卡
john@john-wang:~/yolov3/yolov3_mask_detect$ nvidia-smi
在这里插入图片描述
这里应有你需要的

https://github.com/dedoogong/cuda

cuda programming examples

CUDA Architecture CC version

Tegra X2 6.2 nvcc_ARCH = -gencode=arch=compute_62,code=“sm_62,compute_62”

GeForce GTX 1080 6.1 (CUDA 8) nvcc_ARCH = -gencode=arch=compute_61,code=“sm_61,compute_61”

GeForce GTX 1070 6.1 (CUDA 8) nvcc_ARCH = -gencode=arch=compute_61,code=“sm_61,compute_61”

GeForce GTX 1060 6.1 (CUDA 8) nvcc_ARCH = -gencode=arch=compute_61,code=“sm_61,compute_61”

Tesla P100 6.0 (CUDA 8) nvcc_ARCH = -gencode=arch=compute_60,code=“sm_60,compute_60”

Tegra X1 5.3 nvcc_ARCH = -gencode=arch=compute_53,code=“sm_53,compute_53”

GeForce GTX TITAN X 5.2 nvcc_ARCH = -gencode=arch=compute_52,code=“sm_52,compute_52”

GeForce GTX 980 Ti 5.2 nvcc_ARCH = -gencode=arch=compute_52,code=“sm_52,compute_52”

GeForce GTX 980 5.2 nvcc_ARCH = -gencode=arch=compute_52,code=“sm_52,compute_52”

GeForce GTX 970 5.2 nvcc_ARCH = -gencode=arch=compute_52,code=“sm_52,compute_52”

GeForce GTX 960 5.2 nvcc_ARCH = -gencode=arch=compute_52,code=“sm_52,compute_52”

GeForce GTX 950 5.2 nvcc_ARCH = -gencode=arch=compute_52,code=“sm_52,compute_52”

GeForce GTX 980 5.2 nvcc_ARCH = -gencode=arch=compute_52,code=“sm_52,compute_52”

GeForce GTX 980M 5.2 nvcc_ARCH = -gencode=arch=compute_52,code=“sm_52,compute_52” GeForce GTX 970M 5.2 nvcc_ARCH = -gencode=arch=compute_52,code=“sm_52,compute_52” GeForce GTX 965M 5.2 nvcc_ARCH = -gencode=arch=compute_52,code=“sm_52,compute_52” GeForce 920M 5.2 nvcc_ARCH = -gencode=arch=compute_52,code=“sm_52,compute_52” GeForce 910M 5.2 nvcc_ARCH = -gencode=arch=compute_52,code=“sm_52,compute_52” Quadro M6000 5.2 nvcc_ARCH = -gencode=arch=compute_52,code=“sm_52,compute_52” Quadro M5000 5.2 nvcc_ARCH = -gencode=arch=compute_52,code=“sm_52,compute_52” Quadro M4000 5.2 nvcc_ARCH = -gencode=arch=compute_52,code=“sm_52,compute_52” GeForce GTX 750 Ti 5 nvcc_ARCH = -gencode=arch=compute_50,code=“sm_50,compute_50” GeForce GTX 750 5 nvcc_ARCH = -gencode=arch=compute_50,code=“sm_50,compute_50” GeForce GTX 960M 5 nvcc_ARCH = -gencode=arch=compute_50,code=“sm_50,compute_50” GeForce GTX 950M 5 nvcc_ARCH = -gencode=arch=compute_50,code=“sm_50,compute_50” GeForce 940M 5 nvcc_ARCH = -gencode=arch=compute_50,code=“sm_50,compute_50” GeForce 930M 5 nvcc_ARCH = -gencode=arch=compute_50,code=“sm_50,compute_50” GeForce GTX 850M 5 nvcc_ARCH = -gencode=arch=compute_50,code=“sm_50,compute_50” GeForce 840M 5 nvcc_ARCH = -gencode=arch=compute_50,code=“sm_50,compute_50” GeForce 830M 5 nvcc_ARCH = -gencode=arch=compute_50,code=“sm_50,compute_50” Quadro K2200 5 nvcc_ARCH = -gencode=arch=compute_50,code=“sm_50,compute_50” Quadro K1200 5 nvcc_ARCH = -gencode=arch=compute_50,code=“sm_50,compute_50” Quadro K620 5 nvcc_ARCH = -gencode=arch=compute_50,code=“sm_50,compute_50” Quadro K2200M 5 nvcc_ARCH = -gencode=arch=compute_50,code=“sm_50,compute_50” Quadro K620M 5 nvcc_ARCH = -gencode=arch=compute_50,code=“sm_50,compute_50” Tesla K80 3.7 nvcc_ARCH = -gencode=arch=compute_35,code=“sm_35,compute_35” GeForce GTX TITAN Z 3.5 nvcc_ARCH += -gencode=arch=compute_35,code=“sm_35,compute_35” GeForce GTX TITAN Black 3.5 nvcc_ARCH += -gencode=arch=compute_35,code=“sm_35,compute_35” GeForce GTX TITAN 3.5 nvcc_ARCH += -gencode=arch=compute_35,code=“sm_35,compute_35” GeForce GTX 780 Ti 3.5 nvcc_ARCH += -gencode=arch=compute_35,code=“sm_35,compute_35” GeForce GTX 780 3.5 nvcc_ARCH += -gencode=arch=compute_35,code=“sm_35,compute_35” GeForce GT 730 3.5 nvcc_ARCH += -gencode=arch=compute_35,code=“sm_35,compute_35” GeForce GT 720 3.5 nvcc_ARCH += -gencode=arch=compute_35,code=“sm_35,compute_35” GeForce GT 705* 3.5 nvcc_ARCH += -gencode=arch=compute_35,code=“sm_35,compute_35” GeForce GT 640 (GDDR5) 3.5 nvcc_ARCH += -gencode=arch=compute_35,code=“sm_35,compute_35” Quadro K6000 3.5 nvcc_ARCH = -gencode=arch=compute_35,code=“sm_35,compute_35” Quadro K5200 3.5 nvcc_ARCH = -gencode=arch=compute_35,code=“sm_35,compute_35” Quadro K610M 3.5 nvcc_ARCH = -gencode=arch=compute_35,code=“sm_35,compute_35” Quadro K510M 3.5 nvcc_ARCH = -gencode=arch=compute_35,code=“sm_35,compute_35” Tesla K40 3.5 nvcc_ARCH = -gencode=arch=compute_35,code=“sm_35,compute_35” Tesla K20 3.5 nvcc_ARCH = -gencode=arch=compute_35,code=“sm_35,compute_35” Tegra K1 3.2 nvcc_ARCH = -gencode=arch=compute_30,code=“sm_32,compute_30” Jetson TK1 3.2 nvcc_ARCH = -gencode=arch=compute_30,code=“sm_32,compute_30”

修改makefile中的GPU、CUDNN参数

GPU=1
CUDNN=1
OPENCV=1
OPENMP=1
DEBUG=0

convolutional_kernels.o failed

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

NVCC文件夹位置

#NVCC=nvcc 
#NVCC=/usr/local/cuda-10.0/bin/nvcc
**NVCC=/usr/local/cuda/bin/nvcc**

在这里插入图片描述

#ARCH= -gencode arch=compute_30,code=sm_30 \
#      -gencode arch=compute_35,code=sm_35 \
#      -gencode arch=compute_50,code=[sm_50,compute_50] \
#      -gencode arch=compute_52,code=[sm_52,compute_52]
#      -gencode arch=compute_20,code=[sm_20,sm_21] \ This one is deprecated?

# This is what I use, uncomment if you know your arch and want to specify
# ARCH= -gencode arch=compute_52,code=compute_52
# ARCH= -gencode arch=compute_52,code=[sm_52,compute_52] 

ARCH= -gencode arch=compute_50,code=[sm_50,compute_50]

CUDA Error: out of memory

在这里插入图片描述

我的计算机为16M内存
batch=64
subdivisions=4

subdivision：这个参数很有意思的，它会让你的每一个batch不是一下子都丢到网络里。而是分成subdivision对应数字的份数，一份一份的跑完后，在一起打包算作完成一次iteration。这样会降低对显存的占用情况。如果设置这个参数为1的话就是一次性把所有batch的图片都丢到网络里，如果为2的话就是一次丢一半。

在这里插入图片描述
在这里插入图片描述
相对比只用CPU时的速度，快了２０倍
在这里插入图片描述

输出参数含义

Region Avg IOU: 0.326577： 表示在当前subdivision内的图片的平均IOU，代表预测的矩形框和真实目标的交集与并集之比，这里是32.66%，这个模型需要进一步的训练。
Class: 0.742537： 标注物体分类的正确率，期望该值趋近于1。
Obj: 0.033966： 越接近1越好。
No Obj: 0.000793： 期望该值越来越小，但不为零。
Avg Recall: 0.12500： 是在recall/count中定义的，是当前模型在所有subdivision图片中检测出的正样本与实际的正样本的比值。在本例中，只有八分之一的正样本被正确的检测到。
count: 8：count后的值是所有的当前subdivision图片（本例中一共8张）中包含正样本的图片的数量。在输出log中的其他行中，可以看到其他subdivision也有的只含有6或7个正样本，说明在subdivision中含有不含检测对象的图片。
在这里插入图片描述

Region 16, Region 20表示两个不同尺度上检测的结果。
16卷积层为最大的预测尺度, 可以预测出较小的物体；
20卷积层为最小的预测尺度, 可以预测出较大的物体。

我们发现每次迭代都有两组Region 16, Region 20。
因为在darknet中，所有训练图片中的一个批次（batch）又被分成subdivision份来进行计算，而该训练过程 .cfg 文件中设置的batch=32，subdivisions=2，所以就有两组Region 16, Region 20，每组中用到了16张图片。

Region xx Avg IOU： 表示在当前subdivision内的图片的平均 IOU（预测的矩形框和真实目标的交集与并集之比）；越大越好，最大为1。
Class： 标注物体分类的正确率；越大越好，最大为1。
Obj：越接近 1 越好;
No Obj：期望该值越来越小, 但不为零;
.5R：以与ground true的iou大于0.5为正样本时的recall/count，是当前模型在所有 subdivision 图片中检测出的正样本与实际的正样本的比值。全部的正样本被正确的检测到应该是1。
.75R：以与ground true的iou大于0.75为正样本时的recall/count。
count：所有当前 subdivision 图片（本例中一共 16张）中包含正样本的图片的数量。

用红色框框住的一行参数的含义为：

当前训练的迭代次数
总体的 Loss(损失）
平均 Loss， （一般这个数值低于 0.060730 avg 就可以终止训练了）
当前的学习率
当前批次训练花费的总时间
表示到目前为止, 参与训练的图片的总量；等于迭 代 次 数 ∗ b a t c h 迭代次数*batch迭代次数∗batch
————————————————
版权声明：本文为CSDN博主「干巴他爹」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
原文链接：https://blog.csdn.net/tintinetmilou/article/details/88877039

何时停止

Darknet图像训练的步骤 - 宋兴柱 - 博客园 https://www.cnblogs.com/songxingzhu/p/7909522.html

1、当训练过程中，平均Loss(error)不再减少时(Loss越小效果越好)，可以停止。如下例中的9002表示当前已迭代次数，0.060730 avg表示Loss。
Region Avg IOU: 0.798363, Class: 0.893232, Obj: 0.700808, No Obj: 0.004567, Avg Recall: 1.000000, count: 8 Region Avg IOU: 0.800677, Class: 0.892181, Obj: 0.701590, No Obj: 0.004574, Avg Recall: 1.000000, count: 8
9002: 0.211667, 0.060730 avg, 0.001000 rate, 3.868000 seconds, 576128 images Loaded: 0.000000 seconds
2、训练开始后，从产生的backup目录下的多个还原点中，挑一个最好的。方法是：
（1）在obj.data文件中，修改valid=valid.txt（格式和train.txt一样），然后使用下列命令检测每个训练结果的效果。
darknet.exe detector recall data/obj.data yolo-obj.cfg backup\yolo-obj_7000.weights
darknet.exe detector recall data/obj.data yolo-obj.cfg backup\yolo-obj_8000.weights
darknet.exe detector recall data/obj.data yolo-obj.cfg backup\yolo-obj_9000.weights
（2）对比输出的结果中IOU（精度，越大越好，比较这个），Recall（也算精度，也是越大越好）。
7586 7612 7689 RPs/Img: 68.23 IOU: 77.86% Recall:99.00%
（3）测试检测效果：
darknet.exe detector test data/obj.data yolo-obj.cfg yolo-obj_8000.weights
darknet.exe detector map data/obj.data yolo-obj.cfg backup\yolo-obj_7000.weights
darknet.exe detector map data/obj.data yolo-obj.cfg backup\yolo-obj_8000.weights
darknet.exe detector map data/obj.data yolo-obj.cfg backup\yolo-obj_9000.weights

./darknet detector map ./cfg/yolov3-tiny.data ./cfg/yolov3-tiny.cfg /media/famu/DISK_DATA/yongqiang/yolov3-tiny_best.weights -i 1

(If you use another GitHub repository, then use darknet.exe detector recall… instead of darknet.exe detector map…)

darknet.exe detector train data/obj.data yolo-obj.cfg darknet53.conv.74 -map
./darknet detector train ./train_cfg/yolov3-tiny.data ./train_cfg/yolov3-tiny.cfg -gpus 0,1,2,3 -map

(107条消息) Darknet - When should I stop training? - 我什么时候应该停止训练？_既然选择了远方 便只顾风雨兼程 - 永强-CSDN博客 https://blog.csdn.net/chengyq116/article/details/103971076

人工智能和FPGA AI技术
关注
  • 2
    点赞
  • 踩
  • 16
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
IBM云平台linux下训练yolov3，GPU被其他程序占用，内存不够导致报错
wukai0909的博客
09-09 920
超参重新调整后，开始运行程序训练yolov3，开始以为是调整程序，修改参数导致的错误。但在恢复原参数，还是照样错误，通过对错误代码的解读，是GPU内存不够导致。但比较奇怪的是对于IBM云平台，只能训练被指定分配的GPU，被其他人的程序占用，导致报错。 2019-09-07 17:10:57.137765: I tensorflow/core/common_runtime/bfc_allocato...
darknet训练yolov7-tiny(AlexeyAB版本)
07-18
因darknet框架下的模型训练，相对pytorch框架训练成本低，且作者也提供了darknet框架下的配置文件和预训练模型，本人也在评估darknet框架下的v7-tiny模型，再次将AlexeyAB大佬开源的模型和配置文件上传，给自己做一...
使用darknet（windows GPU 版本） yolov3 训练自己的第一个检测模型.pdf
09-24
使用darknet（windows GPU 版本） yolov3 训练自己的第一个检测模型.,使用darknet（windows GPU 版本） yolov3 训练自己的第一个检测模型.
DarkNet-YoloV3 使用教程 训练自己的数据 GPU版本
Norstc的博客
11-16 6640
一 Darknet-Yolov3下载与安装 源文件下载地址：https://github.com/pjreddie/darknet 下载解压完后，将darknet-master主文件夹的名字改为darknet 之后修改Makefile，因为是使用GPU版本，将GPU=0改为 GPU=1 然后使用make指令运行Makefile。 模型下载地址：https://pjreddie.com/m...
Darknet性能优化：提升计算机视觉任务的执行效率
最新发布
weixin_74939789的博客
04-15 518
在计算机视觉和深度学习领域，执行效率是衡量神经网络框架的一个关键指标。本文将探讨如何通过性能分析工具和优化技术提高Darknet在计算机视觉任务中的性能。通过上述性能分析和优化技巧，Darknet的执行效率可以显著提升，使其更适合处理大规模和复杂的计算机视觉任务。性能分析是优化的第一步。通过分析，开发者可以识别出程序中的瓶颈。假设在使用Darknet进行目标检测时，我们发现GPU利用率不高。通过在多个GPU上并行训练，可以提高处理速度和效率。，可以帮助收集Darknet运行时的性能数据。
超详细教程：YOLO_V3（yolov3）训练自己的数据
热门推荐
qq_21578849的博客
12-12 12万+
前言：最近刚好做一个项目需要做detection，选择的算法是yolo v3，因为它既有速度又有精度，还非常灵活，简直是工业界良心。做项目免不了需要用到自己的数据集，所以的从头一个脚印的来，走通了之后决定写一个帖子，以免需要用的人少走歪路，节约时间。 官网上已经教我们如何跑起来yolo v3，因此大部分时间其实花在制作数据集上。总体来说，分为四个步骤，分别是：标注数据，利用voc制作自己的数据集，...
darknet yolo v3 cfg文件及训练过程中参数解析
caojinpei123的博客
10-25 1628
batch:每轮迭代随机选取的样本数量 subdivision:为了减少显存压力，将每个batch分为subdivision组，意味着将一轮迭代中，分subdivision次将图片输入网络进行训练，（即每次送入网络batch/subdivision张图片） 9798： 指示当前训练的迭代次数 0.370096： 是总体的Loss(损失） 0.451929 avg： 是平均Loss，这个数值...
paddleyolov3训练改为gpu训练
Mr_Wuuuuuu的博客
07-04 330
之前在网上paddle官网查到的方法是在./tools/train.py里将use_gpu改为ture，但是试了之后发现不行，后来以为缺少cudnn，没法调用gpu，就去装cudnn，后来学长又推荐直接docker一步到位，就想着熟悉一下也挺好，结果忙了半天，两边都是因为没法解决的error放弃了。在./config/runtime.yml的use_gpu的false改为ture。之前的机子重装了下系统，结果发现默认成cpu跑，voc要跑个六十多天。
Darknet - When should I stop training? - 我什么时候应该停止训练？
既然选择了远方 便只顾风雨兼程 - 永强
01-14 3233
Darknet - When should I stop training? - 我什么时候应该停止训练？ https://github.com/AlexeyAB/darknet Usually sufficient 2000 iterations for each class (object), but not less than 4000 iterations in total. But for a more precise definition when you should stop trainin
yolov3 眼球检测——Makefile配置
Astronaut_u的博客
09-11 719
make的时候遇到以下错误： recipe for target ‘obj/convolutional_kernels.o’ failed make: *[obj/convolutional_kernels.o] Error 127 解决：因为更换了运行环境，导致cuba的路径不对。在Makefile文件中进行修改： GPU=1 CUDNN=1 OPENCV=1 DEBUG=0 … NVCC...
[深度学习][转载]CUDA arch和CUDA gencode对应关系
FL1623863129的博客
04-16 4295
I’ve seen some confusion regarding NVIDIA’s nvcc sm flags and what they’re used for: When compiling with NVCC, the arch flag (‘-arch‘) specifies the name of the NVIDIA GPU architecture that the CUDA files will be compiled for. Gencodes (‘-gencode‘) allows
训练效率低？GPU利用率上不去？快来看看别人家的tricks吧～
夕小瑶科技说
12-26 747
前言首先，如果你现在已经很熟悉tf.data+estimator了，可以把文章x掉了╮(￣▽￣””)╭但是！如果现在还是在进行session.run(..)的话！尤其是苦恼于GPU显存都...
darknet版yolov3无人机检测训练权重 darknet-yolov3-drone-训练权重.zip
11-28
darknet版yolov3无人机检测训练权重，包括几万张图片训练好的yolov3-drone.weights和yolov3-tiny-drone.weights训练好的权重，并附上了测试的视频，用于检测空中的旋翼无人机，目标类别名为drone,有需要的可以下载
Darknet版YOLOv3人脸和口罩检测+训练好的weights权重+8000数据集
05-31
Darknet版YOLOv3人脸和口罩检测： 1、包含训练好的weights权重文件，以及后缀为cfg、data、names的配置文件，并包含训练map曲线和loss曲线，map到90%多 2、包含数千张口罩检测数据集，类别名为face和face_mask，标签...
Darknet版YOLOv3在Visdrone数据集上训练结果
05-12
1、Darknet版yolov3 visdrone数据集训练模型，训练结果文件，包含visdrone.data , visdrone.names, yolov3 -visdrone.cfg， yolov3 -visdrone_best.weights权重文件，并包含训练loss曲线和map曲线图， 2、检测结果见...
yolov3 指定gpu_yoloV3一步步训练自己的数据
weixin_39903538的博客
02-22 165
YOLOV3的主页：https://pjreddie.com/darknet/yolo/运行主页上的代码得到：首先使用一个开源的神经网络框架Darknet，使用C和CUDA，有CPU和GPU两种模式。1、下载darknet编辑Makefile文件：2、编译：make如果遇到缺失包报错，将缺失的包装上去以后重新编译,重复下列两个操作，直到所有包都装好make cleanmake安装好DarkNet之...
Ubuntu18.04安装yolov3，darknet并使用显卡的GPU进行加速运算
u013327224的博客
07-22 1416
1：ubuntu18.04.3自带git，可以直接使用git把开源的darknet从github上克隆到本地目录，访问国外的github网站速度很慢，可能会失败，需要多次尝试，输入如下命令： git clone https://github.com/pjreddie/darknet 2：下载好了darknet后，切换到darknet目录，并且进行编译 //切换到darknet目录,我这里clone到了home目录下 cd /home/darknet //编译darknet sudo make 3
yolov3-tiny（yolov3）训练自己的数据集（一）：DarkNet + Ubuntu16.04 + GPU + OpenCV3.4.0 配置篇
y459541195的博客
11-12 4576
1. 配置显卡驱动、cuda 和 cudnn 2. 配置DarkNet环境
【目标检测】使用keras-yolov3训练自己的数据集详细流程
See_Star的博客
02-05 5023
YOLOv3的具体的概念与流程这里不再介绍，下面直接讲解实现的步骤。 笔者的计算机环境Win10 + Python3.6 + tensorflow1.1.2 + keras？？？ + cuda9.0 一 制作数据集 制作数据集的工程量较为巨大，如果你有几千张图片，就要一一为这些图片做标记。如果不是做实际的工程项目或是比赛，此步骤可以跳过，在互联网上直接下载已经标记好的数据集。 著名的数据集： 1 ...
darknet yolov3 训练模型
09-16
要进行darknet yolov3模型的训练，首先需要经过以下几个步骤： 1. 数据标注：使用标注工具对训练数据进行标注，标注每个目标的边界框和所属类别。 2. 标注数据转化：将标注数据转化为符合darknet格式的数据，生成对应的.txt文件。 3. 修改配置文件：根据训练需求，修改模型的配置文件，例如cfg/yolov3-voc.cfg。 4. 下载预训练权重：下载预训练的卷积层权重文件，可在darknet官网或相关资源网站获取。 5. 训练模型：使用命令行执行训练命令，指定配置文件、预训练权重文件和数据集等参数进行模型的训练。 6. 测试模型：使用训练好的模型进行测试，可以使用单张图片进行预测并生成结果，也可以使用compute_mAP等工具进行更高级的评估。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值