Java中float精度缺失的问题

最新推荐文章于 2024-06-30 04:08:40 发布

AlexNii

最新推荐文章于 2024-06-30 04:08:40 发布

阅读量535

点赞数 1

文章标签： java 算法

本文链接：https://blog.csdn.net/weixin_40920882/article/details/104651017

版权

在Java中float和double都会存在精度缺失的问题

举个例子

    public static void main(String [] args){
        System.out.println(1.2-1);
    }	
    
// 输出的结果：0.19999999999999996

在Java中如何来表示一个小数

先从10进制说起

例子：如何表示1/3

我们会将一个数轴来表示1，将数轴10等分来表示1/10,再将1/10

所以0.12 = 0.1+0.02，在这里插入图片描述
但是当数字是1/3时情况就不一样；
1/3 = 10/30;
在数轴上他的左端点是9/30 = 3/30,右端点是12/30 = 4/10;
你可以想想在数轴上只能得到一个无限相近的近似值0.33333333333

在2进制中也一样
10进制中按10等分，在2进制中按二等分

在这里插入图片描述以0.1为例
最靠近的左端点是1/16 = 0.0625,右端点为1/8 = 0.1
最终也无法得到0.1，只能无限接近他

Java 中的原始类型 float、double 一般性的建议是使用他们进行科学数值计算，而对于像金额这一类生活中常见的数值类别，推荐使用 java.math.BigDecimal 类来建模（当然有精力也可自己造一个轮子）。该类可以避免之前讨论的精度问题。

需要注意的是，在使用 BigDecimal 时，一定要将需要计算的数值作为字符串传递给构造函数，不然仍会发生精度丢失问题。

关注