【超详细】解释BigDecimal精度的坑

看到这篇文章的,想必是遇到同样的坑,那么请慢慢的看下去

问题重现

BigDecimal b1 = new BigDecimal(0.1);
BigDecimal b2 = new BigDecimal(0.5);
System.out.println("b1="+b1+"\nb2="+b2);

---------------结果----------------------
b1=0.1000000000000000055511151231257827021181583404541015625
b2=0.5

为什么b1的结果是后面有一大串数字,而b2却是正确的呢?

分析

1. effective java 第48条解释:

如果需要精确的答案,请避免使用float和double
float和double类型主要是为了科学计算和工程计算而设计,他们执行二进制浮点运算,这是为了在广泛的数值范围上提供较为精确的快速近和计算而精心设计的,然而,他们并没有提供完全精确的结果,所以不应该被用于精确的结果的场合

2.个人分析:

从effective java中,明确的说了,float和double是不精确的运算,他们只是为了广泛的运算保证有一个相近的值
为什么要使用二进制计算double,float和double他们执行的二进制浮点运算,因为使用二进制计算效率要高,适用于日常运算,而二进制也能给我提供一个相对准确的值
为什么二进制运算不能提供准确的值,其实不能说二进制不能提供准确的值,而是二进制不能准确的表示一个小数,就像十进制不能准确的表示1/3,1/6等。
为什么十进制不能表示1/3 ,因为1/3=0.333333333333333。。。。。,我们始终不能说清楚这后面有多少个3,所以说十进制表示不了1/3.
为什么二进制不能表示一个小数,举例0.1换成二进制,请看下面的运算

0.1 * 2 = 0.2     -----0
0.2 * 2 = 0.4     -----0
0.4 * 2 = 0.8     -----0
0.8 * 2 = 1.6     -----1
0.6 * 2 = 1.2     -----1
0.2 * 2 = 0.4     -----0
.
.
.
//你懂的 0.0001100110011001100110011001100110011001100110011001101

所以二进制表示不了0.1,但是有的小数却可以表示,就像十进制能表示1/2一样,请看0.5

0.5 * 2 = 1     -----1
//所以0.5用二进制表示就是0.1

这也就解释了,我们遇到的坑,new BigDecimal(0.1);返回一个错误的值,而 new BigDecimal(0.5);返回一个准确的值,从本质上讲0.1,只要他的类型是double或者float,它本身就一个不准确的值,这其实跟BigDecimal无关。我们使用new BigDecimal(Double d);这个构造时,假如入参是0.1,这其中会将0.1转成Double,而此时0.1的值就已经不准确了,比如以下代码

System.out.println(0.5*3);
System.out.println(0.1*3);
//这两句代码,可能很清楚说明二进制不能表示0.1,可以表示0.5

如果你还没清楚这个坑的来历,请执行这两句代码,看看结果,带着结果重新阅读一遍我的分析

解决办法

既然知道了坑的来历,我们就只要避免这个坑就行了,这个坑说到底是double或者float造成的,那么我们在构造BigDecimal的对象时,不用这两个构造方法就行了,如:

//使用String构造
BigDecimal b1 = new BigDecimal("0.1");
//或者是:
BigDecimal b1 = BigDecimal.valueOf(0.1);
//点开valueOf的源码,可以看到在源码中也是用new BigDecimal(String);返回一个BigDecimal对象的
//源码如下:
public static BigDecimal valueOf(double val) {
	// Reminder: a zero double returns '0.0', so we cannot fastpath
	// to use the constant ZERO.  This might be important enough to
	// justify a factory approach, a cache, or a few private
	// constants, later.
	return new BigDecimal(Double.toString(val));
}
  • 34
    点赞
  • 65
    收藏
    觉得还不错? 一键收藏
  • 18
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 18
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值