Java中解决浮点数精度的问题

转载于:https://my.oschina.net/roll1987/blog/753979

问题描述

在项目中用Java做浮点数计算时,发现对于4.015*100这样的计算,结果不是预料中的401.5,而是401.49999999999994。如此长的位数,对于显示来说很不友好。

问题原因:浮点数表示

查阅相关资料,发现原因是:计算机中的浮点数并不能完全精确表示。例如,对于一个double型的38414.4来说,计算机是这样存储它的:

  1. 转成二进制:1001011000001110.0110011001100110011001100110011001100
  2. 转成科学计数法:1.0010110000011100110011001100110011001100110011001100×2^15
  3. double型编码格式是这样的:
    double符号位1位阶码11位尾数52位
    1. 符号位:正数统一是0
    2. 阶码:15是正数,因此最高位是1,最低位减1,为10000001110
    3. 尾数:去掉最高位默认的1,为0010110000011100110011001100110011001100110011001100
    4. 组合起来,最终得到的编码是:0 10000001110 0010110000011100110011001100110011001100110011001100

从这里可以看出来,主要原因在于二进制编码使得小数部分无法完全精确表示,例如0.4 = 0.25 + 0.125 + ...,只能无限接近。所以在对浮点数做计算时会产生精度误差。

解决办法:高精度

Java中的BigDecimal可以支持任意精度的浮点数运算。在《Effective Java 》这本书中建议:float 和double 用来做科学计算或者是工程计算,而在商业计算中使用java.math.BigDecimal 。

BigDecimal有多种构造方法,如BigDecimal(double),BigDecimal(String),需要注意的是:构造参数为String类型时才能保证不丢失精度,因为double类型本身就是不完全精确的。故需要写成这样:BigDecimal("0.02")。

double类型的基本运算都能在BigDecimal中找到相对应的方法。另外,BigDecimal还可以配合NumberFormat做格式化输出。

BigDecimal在做运算的时候都会生成新的BigDecimal对象,因此相对double来说会带来更多的性能开销。

高精度实现初探

那么BigDecimal是如何做到能够表示任意精度的呢?这里只做一个初步的分析。

首先看BigInteger的实现。普通的int型是32位,因此有范围限制。BigInteger中有成员变量int[] mag,这样变长的int数组使得表示任意大小的整数成为可能。

再看BigDecimal的实现。它的官方介绍中说,任意一个BigDecimal都可以表示为unscaledValue × 10^-scale的形式。unscaledValue是一个任意大小的整数,在源代码中对应BigInteger intVal这个成员变量;scale是阶数,在源代码中对应int scale这个变量。这样就在BigInteger的基础上得到了BigDecimal的实现。

更细节的内容可以自行阅读源码做进一步分析。


  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值