Java开发Tips：避免浮点数类型比较时陷入的坑

代码探险家_cool

于 2024-04-27 10:33:07 发布

阅读量972

点赞数 15

分类专栏： java 文章标签： java 浮点数后端 double BigDecimal

本文链接：https://blog.csdn.net/C_AJing/article/details/138230946

版权

java 专栏收录该内容

60 篇文章 1 订阅

订阅专栏

一、背景

在平时开发过程中，我们免不了会遇到对浮点数进行比较的操作，但是计算机在处理浮点数计算时可能会出现不准确的情况，这是由于计算机的二进制表示方式和舍入误差导致的。

在十进制中，我们可以精确表示所有的有理数（分数）和一些无理数，比如0.1。但在二进制中，有些十进制的有理数无法精确表示，比如0.1（十进制）等于0.0001100110011…（二进制），这个二进制小数是无限循环的。在计算机中，内存是有限的，所以我们不能存储无限的二进制数字，必须在某个点进行截断，这就引入了误差。

此外，浮点数运算过程中也会产生误差，比如加法、乘法等操作可能会导致原本可以精确表示的数变得无法精确表示。这种误差在多次运算后可能会累积，导致结果与预期有较大的偏差。

为了解决这个问题，计算机科学家们设计了各种算法和数据结构来尽可能减小这种误差，比如使用更高的精度（如双精度浮点数代替单精度浮点数），或者使用特殊的数据结构。然而，无论如何，我们不能完全避免浮点数计算的不精确性，这是计算机科学中的一个基本事实。

针对这个问题，Java中有没有什么解决方案呢。

二、解决方案

1. float类型数据

我们看一下float类型的数据比较存的问题：

代码

float f1 = 0.001F;
float f2 = 0.003F - 0.002F; // 进行浮点数运算

if (f1 == f2) {
    System.out.println("f1 equals f2");
} else {
    System.out.println("f1 not equals f2");
}

运行结果

可以看到直觉告诉我们f1=f2，不过程序运行结果却跟我们判断相反，原因上面已经叙述过了，面对这种问题可以怎么解决呢？

我们可以设置一个允许的偏差值，在偏差值内可以认为两个浮点数是相等的。

代码如下：

float f1 = 0.001F;
float f2 = 0.003F - 0.002F; // 进行浮点数运算

if (Math.abs(f1 - f2) < 0.0001) { // 设置一个允许的偏差值，两个数字相差0.0001以内认为可以视为相等
    System.out.println("f1 equals f2");
} else {
    System.out.println("f1 not equals f2");
}

运行结果：

可以看到此时两个数字视为相等了。

2. double类型数据

double类型数据比较也会有float类型的问题，解决方案也一样，可以设置一个允许内的偏差值，偏差不超过这个值，就视为相等。

3. BigDecimal数据类型

前面的针对浮点数的相等判断比较方案，只能适用于对数据精度要求不高的情况，如果对精度要求高的场景下，显然是不适用的，此时，我们就要适用BigDecimal数据类型了。

java.math.BigDecimal

在这里插入图片描述

BigDecimal类型虽然提供了多个构造方法，但是针对浮点数，如果使用浮点数类型数据创建BigDecimal对象，往往会有意想不到的错误，示例如下：

代码

BigDecimal b1 = new BigDecimal(0.0001);

BigDecimal b2 = new BigDecimal("0.0001");

if (b1.compareTo(b2) == 0) {
    System.out.println("b1 equals b2");
} else {
    System.out.println("b1 not equals b2, b1=" + b1 + ", b2=" + b2);
}

运行结果

可以看到，结果与我们预期并不符合，原因与上面也类似。

那么浮点数要怎么使用BigDecimal类型进行比较呢？首先我们要将浮点数转成字符串，然后使用BigDecimal的字符串构造方法创建对象，然后再使用BigDecimal对象的compareTo方法进行比较，示例如下：

代码

double d = 0.0001;
String strD = Double.toString(d); // 浮点数转字符串

BigDecimal b1 = new BigDecimal(strD);

BigDecimal b2 = new BigDecimal("0.0001");

if (b1.compareTo(b2) == 0) {
    System.out.println("b1 equals b2");
} else {
    System.out.println("b1 not equals b2, b1=" + b1 + ", b2=" + b2);
}