解决方案来自这里。
运行环境
- Ubuntu 18.04
- Python 3.7、Pytorch 1.8(Nightly)
- CUDA 10.1
错误
maskrcnn_benchmark/csrc/cuda/deform_pool_cuda.cu(42): error: identifier "AT_CHECK" is undefined
maskrcnn_benchmark/csrc/cuda/deform_pool_cuda.cu(68): error: identifier "AT_CHECK" is undefined
解决方法
在maskrcnn_benchmark/csrc/cuda/deform_conv_cuda.cu和maskrcnn_benchmark/csrc/cuda/deform_pool_cuda.cu文件的开头加上
#ifndef AT_CHECK
#define AT_CHECK TORCH_CHECK
#endif