java中float/double计算丢失精度解决方案

今天线上出现了一个很奇怪的问题,业务需求是从一个服务方获取到商品的价格(元),是字符串形式,例如是String: "9.90",通过一定的方法转换为分存到数据库里却变成了989。开始怀疑是服务给的数据问题,后台写个Test测试一下,尴尬的发现是自己的基础知识太不扎实,对float/double类型的计算认知不够。

测试代码如下:

public class Test {
    public static void main(String []args){
        String price = "9.90";
        System.out.println(Float.parseFloat(price));
        System.out.println(Float.parseFloat(price)*100);
        System.out.println((int)(Float.parseFloat(price)*100));
    }

}
输出:

9.9
989.99994
989


发现是float型进行运算时丢失精度,并且只有小数部分会丢失精度,把price改为小数部分为零,再测试:

public class Test {
    public static void main(String []args){
        String price = "999.00";
        System.out.println(Float.parseFloat(price));
        System.out.println(Float.parseFloat(price)*100);
        System.out.println((int)(Float.parseFloat(price)*100));
    }
}
输出:

999.0
99900.0
99900

怎么解决这个问题呢,google一下吧,发现可以使用BigDecimal这个类避免丢失精度。

public class Test {
    public static void main(String []args){
        String price = "9.90";
        BigDecimal b = new BigDecimal(price);
        BigDecimal aa = b.multiply(new BigDecimal(100));
        System.out.println(aa.floatValue());
        System.out.println(aa.intValue());
    }
}
输出:

990.0
990

除了使用BigDecimal解决这个问题还有其他方案吗,比较BigDecimal很占用内存和CPU,当然有,既然只有小数部分会丢失精度,只要最终的计算结果是Integer型,也就是最后的结果保证是整数,就可以先消除小数部分,再进行计算。

丢失精度示例:

public class Test {
    public static void main(String []args){
        int rate = Integer.parseInt("100");
        int f = 510;
        System.out.println(f*1.0/rate*100);
        System.out.println((int)(f*1.0/rate*100));
    }
}
输出:

509.99999999999994
509

不丢失精度示例:

public class Test {
    public static void main(String []args){
        int rate = Integer.parseInt("100");
        int f = 510;
        System.out.println(f*1.0*100/rate);
        System.out.println((int)(f*1.0*100/rate));
    }
}

输出: 

510.0
510


只是把*100提到前面,避免了小数部分的存在,就不会丢失精度。但是这个方法的前提是最终计算结果必须是整数,慎用!


Javafloatdouble都是用二进制浮点数表示的,它们的精度是有限的。因为二进制浮点数无法精确表示某些十进制数,如0.1,所以在进行精确计算时需要特别注意。 在进行浮点数计算时,可以使用BigDecimal类来实现精确计算BigDecimal类可以表示任意精度的十进制数,而且支持加、减、乘、除等基本的数学运算。 下面是一个使用BigDecimal类进行浮点数计算的例子: ``` import java.math.BigDecimal; public class FloatDoublePrecision { public static void main(String[] args) { float f1 = 0.1f; float f2 = 0.2f; double d1 = 0.1; double d2 = 0.2; BigDecimal b1 = new BigDecimal(Float.toString(f1)); BigDecimal b2 = new BigDecimal(Float.toString(f2)); BigDecimal b3 = new BigDecimal(Double.toString(d1)); BigDecimal b4 = new BigDecimal(Double.toString(d2)); BigDecimal result1 = b1.add(b2); BigDecimal result2 = b3.add(b4); System.out.println("Float计算结果:" + result1); System.out.println("Double计算结果:" + result2); } } ``` 输出结果如下: ``` Float计算结果:0.300000011920928955078125 Double计算结果:0.3000000000000000444089209850062616169452667236328125 ``` 可以看到,使用floatdouble进行计算得到的结果都存在精度问题。而使用BigDecimal类进行计算可以得到精确的结果。 需要注意的是,使用BigDecimal类进行计算时需要使用字符串形式的构造方法,而不能直接使用浮点数进行构造,否则仍然会存在精度问题。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值