最近在写一个图像匹配并且矫正的算法,主要是用互相关去做,然后求解相关系数最大的位置,再进行图像平移矫正。
遇到的科学计算问题
在做互相关时,往往在频率上去做互相关,那么两幅图之间就要进行傅里叶变换,然后再点乘。这个时候每个像素位置的实部数值已经达到了e17以上,然后我没注意到这个数值的大小已经超过了float的大小,已经溢出了。所以导致后面的数值出错。这个Bug找了我接近一个下午的时间。
解决方法
将float类型转换为double类型,对应的CUDA里的cufftComplex类型要转换为cuDoubleComplex。
总结
在做科学计算时,最好用double类型去做,防止数据溢出。要是整体算法的数值大小并无超过float,还是选用float去实现,毕竟float字节数小,占用内存空间少,而且在CUDA里float的运算似乎要比double的快一点。