1. train遇到这个问题:
已放弃Resizing
608
CUDA Error: out of memory
darknet: ./src/cuda.c:36: check_error: Assertion `0' failed.
百度的说法是gpu架构和作者默认使用的不一致。所以根据自己的gpu型号:gxt1080(pascal支持,百度即可得知...)。然后上官网可以查到gpu对应的comput_*:
但是呢我把这个修改好了,再train的时候,还是出现resizing * 出现 out of memory.....
难道是gpu的显存不够?.... 或许吧.....
所以解决的方法就是:根据yolo训练自己的data的解答:
1:CUDA Error: out of memory表明显存不够,调小batch数值2:Resizing到不同尺度,同样增加显存。设置random=0。关闭多尺度训练。