Check failed: error == cudaSuccess (8 vs. 0) invalid device function
运行faster-rcnn做测试时可能出现的错误
google找到了答案,是nms的问题,设置nms不使用gpu即可,但是为什么这样还不是很清楚。
解决:
in $FCN_ROOT/lib/fast_rcnn/config.py
set __C.USE_GPU_NMS = False
原创
2016-05-28 11:12:03 ·
3710 阅读 ·
2 评论