关于运算顺序影响计算机精度的那些事
第一张图:
第二张图:
解释一下:上图的式子是求椭球体理论值的式子。我赋了相同的值,但是得到了差距很大的两个不同结果。
相信很多大佬早就明白,这是误差。我知道一定会产生误差,但是产生这么大的误差我是没想到的。我用的float,如果用double是不是会好一点呢?(仅仅是推测,无根据,待验证)
第一张图:
第二张图:
解释一下:上图的式子是求椭球体理论值的式子。我赋了相同的值,但是得到了差距很大的两个不同结果。
相信很多大佬早就明白,这是误差。我知道一定会产生误差,但是产生这么大的误差我是没想到的。我用的float,如果用double是不是会好一点呢?(仅仅是推测,无根据,待验证)