VisTR频实例分割网络 win DCN下编译失败 解决方法
DCN 编译失败 在win 系统 下 仔细查看错误原因
deformable/deform_conv_cuda_kernel.cu(747): error: calling a host function("__floorf") from a device function("dmcn_get_coordinate_weight ") is not allowed
在相应的 deformable/deform_conv_cuda_kernel.cu 文件夹中修改
floor 修改 floorf
修改完成后重新编译
其他可能影响的问题
这里是因为在torch15以后不再使用AT_CHECK,而是TORCH_CHECK。只需要讲报错文件的AT_CHECK改为TORCH_CHECK即可。
完成