Kahan's summation Formula
保持精度的小trick:Kahan's summation Formula由于最近用GPU编程,涉及到了float数组,就不得不涉及精度问题。在 CPU 上进行计算时,我们使用 double(即 64 bits 浮点数)来累进计算过程,而在 GPU 上则只能用 float(32 bits 浮点数)。在累加大量数字的时候,由于累加结果很快会变大,因此后面的数字很容易被舍去过多的位数。对于双精度如...
转载
2019-08-15 09:39:50 ·
464 阅读 ·
0 评论