我们都知道如下代码会输出非预期结果
System.out.println(10.00-9.60);
我们理想的结果是输出0.4但是打印出的结果是0.40000000000000036.
这种非预期的结果是由于计算机在计算浮点数时不准确造成的。那如何解决?
1,使用BigDecimal
BigDecimal是专门为弥补浮点数无法精确计算的缺陷而设计的类,并且它本身也提供了加减乘除的常用数学算法,特别是与数据库Decimal类型的字段映射时,BigDecimal是最优的解决方案。
2,使用整型
把参与运算的值扩大100倍,并转换成整型,然后在展现时再缩小100倍,这样处理的好处是计算简单,准确,一般在非金融好样应用较多。此方法还会用于某些临售pos机。