CUDA项目做科学计算应注意的点

最近在写一个图像匹配并且矫正的算法，主要是用互相关去做，然后求解相关系数最大的位置，再进行图像平移矫正。

遇到的科学计算问题

在做互相关时，往往在频率上去做互相关，那么两幅图之间就要进行傅里叶变换，然后再点乘。这个时候每个像素位置的实部数值已经达到了e17以上，然后我没注意到这个数值的大小已经超过了float的大小，已经溢出了。所以导致后面的数值出错。这个Bug找了我接近一个下午的时间。

解决方法

将float类型转换为double类型，对应的CUDA里的cufftComplex类型要转换为cuDoubleComplex。

总结

在做科学计算时，最好用double类型去做，防止数据溢出。要是整体算法的数值大小并无超过float，还是选用float去实现，毕竟float字节数小，占用内存空间少，而且在CUDA里float的运算似乎要比double的快一点。