yolo v2 训练自己数据集遇到的问题

最新推荐文章于 2024-06-21 01:49:25 发布

jozeeh

最新推荐文章于 2024-06-21 01:49:25 发布

阅读量4.2k

点赞数

分类专栏： yolo 文章标签： yolo

本文链接：https://blog.csdn.net/jozeeh/article/details/78647481

版权

在使用YOLOv2训练自己的数据集时，可能会遇到CUDA out of memory错误。解决方案包括调整模型配置文件中subdivisions参数，以降低对显存的需求。此外，可以通过配置TensorFlow的GPU选项限制其内存占用，如使用allow_soft_placement和allow_growth参数。在运行程序前设置CUDA_VISIBLE_DEVICES环境变量，避免占用多余GPU资源。另外，确保在运行YOLOv2模型时GPU处于闲置状态，并且在使用detector recall函数前，正确修改examples/detector.c的代码并进行make。

摘要由CSDN通过智能技术生成

1.CUDA Error: out of memory darknet: ./src/cuda.c:36: check_error: Assertio `0' failed.

需要修改所使用的模型cfg文件中的subdivision的参数。

由subdivisions=8改成subdivisions=64。

subdivision：这个参数很有意思的，它会让你的每一个batch不是一下子都丢到网络里。而是分成subdivision对应数字的份数，一份一份的跑完后，在一起打包算作完成一次iteration。这样会降低对显存的占用情况。如果设置这个参数为1的话就是一次性把所有batch的图片都丢到网络里，如果为2的话就是一次丢一半。