项目场景:
yolov3 测试不画框
问题描述:
在使用yolov3做框架训练模型,测试时发现没有把框画出来。
原因分析:
在通过cuda与cudnn版本的各种替换,然后排除驱动版本的问题。
在通过在另一台电脑上的成功案例,对比本台电脑的结果比较后发现:
cudnn_half 的值不一样,当值为0的时候,发现测试的时候框已经显示出来了;当值为1的时候,发现测试的时候框显示不出来了。
解决方案:
cudnn 官方文档:https://docs.nvidia.com/deeplearning/cudnn/pdf/cuDNN-Developer-Guide.pdf
通过阅读源码和官方的pdf文档时,终于发现在yolov3 项目中,parser.c中1238行左右
修改compute_capability 的判断条件,使cudnn_half 的值为0。
重新生成项目,框就画出来了。