fgjargfkm的博客

原创 关于运算顺序影响计算机精度的那些事

关于运算顺序影响计算机精度的那些事 第一张图： 第二张图： 解释一下：上图的式子是求椭球体理论值的式子。我赋了相同的值，但是得到了差距很大的两个不同结果。 相信很多大佬早就明白，这是误差。我知道一定会产生误差，但是产生这么大的误差我是没想到的。我用的float，如果用double是不是会好一点呢？（仅仅是推测，无根据，待验证） ...