Java自学day 1 之浮点数细节

最新推荐文章于 2024-09-15 09:47:04 发布

奈卿

最新推荐文章于 2024-09-15 09:47:04 发布

阅读量219

点赞数

文章标签： double精度近似值判断相等误差阈值 Math.abs

本文链接：https://blog.csdn.net/qq_63159494/article/details/126128959

版权

tips：double精度更高，一般推荐用double

num12 计算机在运算的时候不知道什么时候才会除尽所以是一个近似值。

当我们对运算结果是小数的进行判断相等时，要多加小心！

所以判断相等的时候应该改进方法：即结果与目标差值很小（小于0.0000..1）那么就认为是相等的。

public class Hello {
    public static void main(String[] args){
        double num11 = 2.7;
        double num12 = 8.1/3;
        System.out.println(num11);
        System.out.println(num12);
        if(Math.abs(num11-num12)<0.0001){
            System.out.println("相等");
        }
    }
}