1. 0.2+0.7 = 0.8999999999999999;
2. 0.2*0.7 = 0.13999999999999999; 0.2*7 = 1.4000000000000001; 0.2*70 = 14.0;
冲上面的算式可以看出,java的浮点运算跟我们想要的结果有一定的差距。
关于为什么出现上面的问题,是因为在计算机的存储中,会把数字转换成2进制的形式,但是小数的二进制表示可能是无限循环的。所以会在最后一位进行舍入。就产生了以上问题。
如果要在java里面运行浮点数运算的话,java提供了一个BigDecimal对象。这个对象可以精确的计算浮点数。
如BigDecimal a = new BigDecimal(0.2+""); 这个方法里面的值一定是string行的,要是其他形式的,会出现精度问题。
BigDecimal b = new BigDecimal(0.7+"");
a.add(b).floatValue(); 这个值输出的时候就是0.9
a.multiply(b).floatValue(); 这个值输出的时候就是0.14
用BigDecimal对象就可以精确计算浮点数了。
关于java的浮点数运算
最新推荐文章于 2022-05-07 23:00:26 发布