我的问题出现在训练faster_rcnn的时候,后来经过在网上寻找解决方案,找到的原因是gpu的计算能力与配置的不符
解决方法:
在make.sh里面
nvcc -c -o roi_pooling.cu.o roi_pooling_kernel.cu \ -D GOOGLE_CUDA=1 -x cu -Xcompiler -fPIC -arch=sm_52
有这样一句代码,我们需要关注-arch=sm_52这个参数,52这个数字就是与计算能力相关的,我的gpu型号K80,
对照上图,对应是3.7,我设置成了3.5,也就是-arch=sm_35,没有保存,个人推断,只要设置成对应版本或者版本一下的数字就可以,还没有试过其他的,有兴趣的可以试一试。