问题:System.out.println(2.0d-1.1d);输出结果为:0.8999999999999999
跟据下面在这个例子来说明原因(其他情况类似):
(1)System.out.println(0.01f+0.04d);输出结果为:0.04999999977648258
(2)System.out.println(0.01f+0.04f);输出结果为:0.049999997
结果截图如下:
原因:如上面的(1)和(2)所示,可以看出精度缺失的原因是因为0.01f所引起的,因为0.4不管是float还是double,输出的结果是一样的,只是因为下面是以float输出的,所以显示的内容要短一些。那为什么0.01会引起精度缺失呢?这是由于0.01在化为二进制时是化不完的(可以在草稿本上化一下),然后float所能表示的精度又是有限的,后面还有无数个位会被丢弃,所以进行(0.01f+0.04)后由于0.01的精度缺失导致结果与预料的结果不一样。
public class Test {
public static void main(String[] args) {
System.out.println(0.01f+0.04);
System.out.println(0.01f+0.04f);
}
}