精确计算时,不要使用float或double

照例,还是来一段Effective Java的内容。内容大家应该已经都熟悉,不过还是发现很多新人完全不清楚,所以拿来共享一下。
一、病例:

Java code

System.out.println(1.03-0.42); // 0.6100000000000001System.out.println(1.00-9*0.10); //0.09999999999999998


又比如,每个单价0.10元,0.20元,0.30元,0.40元……,每种比前一种多0.10元。每样买一个,1元钱能买几个,找零多少

Java code

publicstaticvoid main(String[] args) { double funds =1.00; int itemsBought =0; for (double price =.10; funds >= price ; price += .10) { funds -= price; itemsBought++; } System.out.println(itemsBought +" items bought."); System.out.println("Change: $"+ funds); }


如果运行这个程序,它会告诉你共可以买3样,找零$0.3999999999999999,显然这是错误答案。

二、原因:
float/double不能停供完全精确的计算结果。这个原理其实很简单,float/int都是32bit(也就是一共有2^32个精确值),而int的范围是-2^31 ~ 2^31-1,而Float的最大值是3.4028235e+38,远大于2^31 - 1。而且,int只负责个数有限的整数,而浮点却要用来表示个数无穷的小数,显然力不从心。

浮点精确值可以简单视作一个以0为中心的正态分布,绝对值越小(越接近0的地方),相邻两个精确值月密集。比如,最近的两个值可能只相差0.00000...几十个0...01,而最远的两个精确值,却差了2.028241E31。浮点的表示采用IEEE 754,大家可以参考一下。

另外浮点数特别不适合用于货币计算。因为浮点型不可能精确表示0.1或者任何10的负数次幂的值。同样,如果计算的数字极大,或者精度要求很高,也不应该用浮点进行计算。

三、解决方案
A java.math.BigDecimal
与浮点不同,它可以提供精度任意(当然在硬件限制范围内)的计算结果,但是,只能进行四则运算或者基于四则运算的其他简单运算。

Java code

publicstaticvoid main(String[] args) { BigDecimal funds =new BigDecimal("1.00"); int itemsBought=0; for (BigDecimal price =new BigDecimal(".10"); funds.compareTo(price) >=0; price =price.add(new BigDecimal(".10"))) { funds = funds.subtract(price); itemsBought++; } System.out.println(itemsBought +" items bought."); System.out.println("Change: $"+ funds); }


需要注意的是:
1 虽然提供了double型构造函数或方法,但是仍然应使用String以提高精度
2 BigDecimal与String,Integer等类似,为不可变对象(Immutable),计算结果需要重新赋值给变量,下面的代码,没有任何效果。

Java code

a.add(b);


3 对于有些可能影响精度的计算(比如除法除不尽)可能需要提供计算结果的精确度及取舍依据。当然@since 1.5,可以不再提供,但是如果无法得出精确值或者除不尽,仍会ArithmeticException

Java code

a.divide(b, 3, // 保留3位小数BigDecimal.ROUND_HALF_UP); // 四舍五入,see BigDecimal.ROUND_XXXX,


ROUND_HALF_UP 四舍五入最常见
ROUND_HALV_EVEN 奇进偶不进,末尾如果不是5,同四舍五入 0.129 --> 0.13,末尾如是5,参考前一位奇偶 0.125 --> 0.12 0.115 --> 0.12,在科学计算时较常见,特别是有舍入后累加的情况,好于四舍五入
ROUND_DOWN,去尾,货币计算让零较常见

B int/long
在有些情况下,float/double可以直接用int/long替代。包括有些情况下的数据库存储也类似。
只说一句话,大家应该可以理解。话说:
1米 = 10分米 = 100厘米 = 1000毫米
1元 = 10角 = 100分

转载于:https://my.oschina.net/henryking/blog/1526641

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值