浮点数运算精度问题_android float 乘以1.5-CSDN博客

本文链接：https://blog.csdn.net/XiaoBaibai0o/article/details/124976226

浮点数运算精度问题：

在平时的float或double运算中，总会出现像图片中这样的输出，显然我们所计算的结果与平时计算器所得到的结果不同。

那么为什么浮点精度运算会有问题呢？

追根寻源，主要的问题还是在计算机中数据的存储形式。在计算机中，任何数据都是以0，1二进制的形式存储的，而我们通常运算所用到的是十进制，在存储的这个过程中，就涉及到二进制与十进制的转换问题。十进制小数到二进制小数一般是整数部分除2取余，逆序排列，小数部分使用乘 2 取整数位，顺序排列。而问题就出现在小数部分，例如1.1这个数，转换为二进制如下：

整数部分：

1/2 = 0.........1

小数部分：

0.1*2=0.2.........0

0.2*2=0.4.........0

0.4*2=0.8.........0

0.8*2=1.6.........1

0.6*2=1.2.........1

0.2*2=0.4.........0

..........

结果会落入无限循环：1.000110........，而我们的计算机存储变量是有长度限制的，所以只会截取部分小数进行存储，从而导致计算机存储的数值只是个大概的值，而不是精确的值。所以导致计算会出现问题。

如何解决浮点数运算精度丢失的问题

如果对精度的要求不高可以采用四舍五入的方法来忽略精度问题。

使用BigDecimal（JAVA）

public static void main(String[] args)
    {
        BigDecimal a = new BigDecimal("4.8");
        BigDecimal b = new BigDecimal("1.2");

        System.out.println("a + b =" + a.add(b));
        System.out.println("a - b =" + a.subtract(b));
        System.out.println("a * b =" + a.multiply(b));
        System.out.println("a / b =" + a.divide(b));
    }

运行结果如下：