BigDecimal传值精度计算问题

        在进行浮点数精度计算时,很容易就会出现得到数据不一致问题。

        Java 语言支持两种基本的浮点类型: float 和 double ,以及与它们对应的包装类 Float 和 Double 。它们都依据 IEEE 754 标准,该标准用科学记数法以底数为 2 的小数来表示浮点数。

        下面来看两段代码,及其计算结果:

        使用 double 传参的时候会产生不可预期的结果,比如说 0.1 实际的值是 0.1000000000000000055511151231257827021181583404541015625,说白了,这还是精度的问题。(既然如此,为什么不废弃呢?)

import java.math.BigDecimal;

public class T {
    public static void main(String[] args) {
        BigDecimal a = new BigDecimal(1);
        BigDecimal b = new BigDecimal(0.9);
        BigDecimal c = new BigDecimal(0.8);
        BigDecimal d = new BigDecimal(0.7);
        System.out.println(a.subtract(b));
        System.out.println(c.subtract(d));
    }
}

        看一下官方文档

        BigDecimal(double val)

The results of this constructor can be somewhat unpredictable. One might assume that 
writing new BigDecimal(0.1) in Java creates a BigDecimal which is exactly equal to 0.1 (an 
unscaled value of 1, with a scale of 1), but it is actually equal to 
0.1000000000000000055511151231257827021181583404541015625. This is because 0.1 cannot be 
represented exactly as a double (or, for that matter, as a binary fraction of any finite 
length). Thus, the value that is being passed in to the constructor is not exactly equal to 
0.1, appearances notwithstanding.

 

         使用字符串传参的时候会产生预期的结果,比如说 new BigDecimal("0.1") 的实际结果就是 0.1。

import java.math.BigDecimal;

public class T {
    public static void main(String[] args) {
        BigDecimal a = new BigDecimal("1");
        BigDecimal b = new BigDecimal("0.9");
        BigDecimal c = new BigDecimal("0.8");
        BigDecimal d = new BigDecimal("0.7");
        System.out.println(a.subtract(b));
        System.out.println(c.subtract(d));
    }
}

 

 

 

        总结:如果必须将一个 double 作为参数传递给 BigDecimal 的话,建议传递该 double 值匹配的字符串值。

 

        参考: Java 代码界 3% 的王者?看我是如何解错这 5 道题的

  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值