今天在计算两个两位小数做减法时,得出的结果有十六位小数,如下:
经搜索,这是由于浮点数在计算机内部是以二进制的形式存储,而二进制无法准确的表示十进制小数,所以计算时通常会出现误差。
解决方案:将数据转换成大数据类型计算
BigDecimal a = new BigDecimal(11.25);
BigDecimal b = new BigDecimal(1.5);
System.out.println(a.subtract(b));
打印结果为:9.75 是没有问题的
但在项目代码使用时,发现计算后的小数位数反而更多了,经调试发现,在类型转换这步时,数据就以及出现了问题:
这是因为,BigDecimal(Double val)本身就是是无法保证转换的准确性的,这在源码中也有所说明:
以下为网络翻译:
所以,应该使用new BigDecimal(String val) 进行类型转换,或使用BigDecimal.valueOf(double val) ,[ps:此方法会先将double类型转为String类型,以保证数据的准确性]