java里Math.abs(x)1e-6是什么意思？

最新推荐文章于 2022-06-22 14:22:45 发布

weixin_45958919

最新推荐文章于 2022-06-22 14:22:45 发布

阅读量4.9k

点赞数 8

文章标签： java 算法

本文链接：https://blog.csdn.net/weixin_45958919/article/details/104632839

版权

Math.abs(x)<1e-6其实相当于x == 0

1e-6(也就是0.000001)叫做epslon，用来抵消浮点运算中因为误差造成的相等无法判断的情况。它通常是一个非常小的数字（具体多小要看你的运算误差）

在一开始学习c语言的时候，我们就知道计算机在存储数据的时候是使用二进制，而二进制是无法准确存储double数据的。至于是为什么，不要问我，因为我也是新手，而java语言的底层也是c、c++，所以也是同理。

比如说因为精度误差，用十进制举例，我们要算1/3+1/3+1/3 == 1（从数学上说，肯定相等），但是因为精度问题，等号左边算出来是0.3333333+0.3333333+0.3333333 = 0.9999999，存在了误差，右边是1.0000000，那么如果直接用 == ，返回false，我们希望它被视作相等。那么就要两数相减取绝对值小于epslon的办法。