double类型计算

由于double类型转换成二进制时可能出现不能被精确的表示,导致我们在进行double类型的计算时,会出现数值不正确的情况。

解决以上问题,我们都很知道应该使用BigDecimal来处理,通常的操作是

double multi(double first, int secord) {
    BigDecimal firstBig = new BigDecimal(first); // 使用double类型参数构造BigDecial实例
    BigDecimal secondBig = new BigDecimal(second);
    return firstBig.multiply(secondBig).doubleValue();
}

实际使用过程中貌似也都听正常的,但是当我们计算result = multi(0.3, 3) 时会发现,result!=0.9,而是0.89999....

Why!!?

此时查看BigDecimal(double)构造函数的注释:

即当我们使用double类型作为构造函数的参数时,所生成的BigDecimal实例的值与double类型是一直的!如注释中所说,此时0.1的实际值并非是0.1!

按照注释中的推荐,为了在构造BigDecimal实例时,所得到的值就是我们所传进去的参数的值,我们改用BigDecimal(String)作为构造函数。

修改以上代码如下:

double multi(double first, int secord) {
    BigDecimal firstBig = new BigDecimal(Double.toString(first)); // 使用String类型参数构造BigDecial实例
    BigDecimal secondBig = new BigDecimal(Double.toString(second));
    return firstBig.multiply(secondBig).doubleValue();
}

此时进行计算result = multi(0.3, 3) 所得的结果result就为0.9了

转载于:https://www.cnblogs.com/ivan-aldrich/p/5522378.html

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值