CUDA原子操作中的int溢出问题:
在CUDA中对收集到的颜色值求和,偶尔会出现溢出问题,导致计算出的crosstalk为负数。
尝试:
修改数据类型为float未果,依旧溢出;修改数据类型为double报错,浅浅了解了一下是因为原子操作不支持该数据类型。
解决方案:
搜索原子操作的相关函数说明,发现:
unsigned long long int atomicAdd(unsigned long long int* address,unsigned long long int val);
即atomicAdd函数支持两个无符号长整型变量相加,故更改数据类型为unsigned long long int,问题解决,不再报错与溢出。
另:long long int = long long