0 CUDA Error: out of memory
darknet: ./src/cuda.c:36: check_error: Assertion `0’ failed.
已放弃 (核心已转储)
很多博客都和下面方法一样,
测试yolov3时报错:cuda error: out of memory darknet: ./src/cuda.c:36: check_error: Assertion `0’ failed.
说修改
batch=64
subdivisions=16
为
batch=1
subdivisions=1
还有把图片
width=608
height=608
改为:
416*416
可以试一下,不过我的还是不行!!!
于是又看到下面这篇博客
CUDA out of memory.(已解决)
意思就是gpu被其他进程占用了,查看一下
nvidia-smi
果然 :
7700MiB / 7949MiB
0 1211 G /usr/lib/xorg/Xorg 303MiB |
0 5944 C /home/wjh/anaconda3/envs/py/bin/python 7385MiB
其中第二个占了这么多,因为我的编译器(spyder)一直开着,关闭之后,重新运行就ok了