java中执行以下代码预期结果肯定是0.1
System.out.println(1.0 - 0.9);
但事实上运行结果为
原因
Java中的小数使用double和float表示,小数属于浮点型(默认为double)。
对于float型的值,则要在数字后加f或F,如12.3F,它在机器中占32位,4个字节来存储,表示精度较低。double是64位。
那么一个小数在Java中是如何存储的呢?
Java语言中,float类型数字在计算机中的存储遵循IEEE-754格式标准:
(1)一个浮点数有3部分组成:符号位,指数部分e和底数部分m。
(2)浮点数需要用二进制来表示,所以底数m部分:使用二进制数来表示此浮点数的实际值。
(3)指数可正可负,所以,IEEE规定,此处算出的次方必须减去127才是真正的指数。因此指数部分有偏移量(float为127, double为1023)所以,float类型的指数可从-126到128。
(4)float类型符号位占1位,指数部分占用8bit(1个字节)的二进制数,可表示数值范围为0-255,尾数占23位(因为规格化表示,小数点左边的就是最高位一定为1,最高位省去不存储,在存储中占23bit,实际有24位精度)
(5)double类型符号位占1位,指数部分占11位,尾数占52位(因为规格化表示,小数点左边一定为1,所以实际有53位精度)
这样的表示方法一般都会失去一定的精确度,有些浮点数运算也会产生一定的误差。
解决方法