Java中(2.0-1.1)输出不是0.9的问题

问题:System.out.println(2.0d-1.1d);输出结果为:0.8999999999999999

跟据下面在这个例子来说明原因(其他情况类似):

(1)System.out.println(0.01f+0.04d);输出结果为:0.04999999977648258

(2)System.out.println(0.01f+0.04f);输出结果为:0.049999997

结果截图如下:

原因:如上面的(1)和(2)所示,可以看出精度缺失的原因是因为0.01f所引起的,因为0.4不管是float还是double,输出的结果是一样的,只是因为下面是以float输出的,所以显示的内容要短一些。那为什么0.01会引起精度缺失呢?这是由于0.01在化为二进制时是化不完的(可以在草稿本上化一下),然后float所能表示的精度又是有限的,后面还有无数个位会被丢弃,所以进行(0.01f+0.04)后由于0.01的精度缺失导致结果与预料的结果不一样。

public class Test {
	public static void main(String[] args) {
		System.out.println(0.01f+0.04);
		System.out.println(0.01f+0.04f);
	}
}

 

展开阅读全文

没有更多推荐了,返回首页