1、deform conv 在pytorch 1.4 cuda10.1下可以直接通过python setup.py build等相关命令安装成功,但是当pytorch版本较高时会编译失败。
2、如果编译报:
error C3861: "AT_CHECK": 找不到标识符。
那么在相应的.cpp 文件(如deform_conv_cuda.cpp、deform_pool_cuda.cpp)的开头增加:
#ifndef AT_CHECK
#define AT_CHECK TORCH_CHECK
#endif
如果继续报以上错误,那么在.cu文件(deform_conv_cuda_kernel.cu、deform_pool_cuda_kernel.cu)的开头也增加上述代码即可。
3、删除文件夹下的build文件夹,重新编译即可。
重装了各种环境,就要放弃的时候,花费了大量时间,终于找到了解决方法。记录一下。