学习目标:
单精度和双精度的运算问题
问题引出:
当我们在运行如下输出语句时
System.out.println(2.5-0.9);
System.out.println(2.4-0.8);
System.out.println(2.5f-0.9f);
System.out.println((2.4f-0.8f));
输出结果如下:可能很多人就会疑惑了,不都是输出1.6吗?怎么就输出各不一样呢?
1.6
1.5999999999999999
1.6
1.6000001
问题解决:
首先,大家都知道,小数默认是Double类型,也就是说1.0是双精度型。而计算机底层是以二进制的补码形式存储数据,包括在进行四则运算,取余等操作。而我们发现2.5的小数部分0.5是可以被二除尽的,即2^-1次方,此时就是问题所在,而0.9在利用短除法求二进制时,是得不到整数,也就是无法用二进制表示,但是计算机底层会将它取出前52位(化成十进制则有14位)而后面的被舍弃。此时就会出现精度损失。 float类型也是一样的,只取前7位小数。所以也会有精度损失。总结:在计算中只要有一个不精度损失,则结果也不损失。
如何解决
那如何解决两个都精度损失的数字的运算呢?就比如2.4-0.8,我还是要得到1.6,那该怎么办呢?
这里我们推荐大家使用BigDecimal类。
//add方法 +
//subtract方法 -
//multiply方法 *
//divide方法 /
BigDecimal d1 = BigDecimal.valueOf(2.4);
BigDecimal d2 = BigDecimal.valueOf(0.8);
double result = d1.subtract(d2).doubleValue();
System.out.println(result);
//输出结果:1.6
这样问题就轻松解决了。