先看一段代码
float a = 100.0000005f;
float b = 100.000001f;
System.out.println("10.0000005f==10.000001f?" + (a == b));
这是执行结果:
为什么明显不同的两个float的比较会是true?
这是由于float的储存方式比较特别,与int的不同
100.0000005f转化为二进制后为:1100100.00000000000000000000100001100011011110111101
转换时,将整数部分与小数部分分开转换
100转换得1100100
小数部分要转换二进制,需要乘2, 乘完之后 取整数部分,然后用乘的结果减去整数部分, 然后 接着
乘2, 直至最后没有小数或者小数出现循环, 即乘完
比如0.5
0.5 * 2 = 1.0 (取1)
0 * 2 = 0 (0)
所以, 转换后 0.5 = 0.1
如果等于0, 就取前面不为0的部分.
这里相信大家都会转换,就不详细的讲了
float的占4byte即32位
0-00000000-00000000000000000000000
从左边开始,其中第一位为符号位,第二位到第九位为指数位,后面的23位为尾数位
以下转化为IEEE754标准。[here]
1100100.00000000000000000000100001100011011110111101
规格化后为
1.10010000000000000000000000100001100011011110111101E110(E110为二进制)
这里使用到移位存储, 对于float 数值来说, 指数位要加上127, 即0111111(二进制)
00000110 + 01111111 ----------- 10000101
100.0000005f为正数,所以第一位符号位为0,第二到第九位指数位为10000101,最后面23位尾数位
取小数点后面的23位即01000000000000000000000,所以储存结果为
0100 0010 1100 1000 0000 0000 0000 0000
由于尾数只取23位,所以原转化为二进制的数后面的数就丢失了,导致计算机储存时,并没有正确的
储存100.0000005f
而100.000001f 转化后在计算机里储存的是
0100 0010 1100 1000 0000 0000 0000 0000
总结
即100.0000005f与100.000001f的储存结果是一样的,所以为true;所以之所以丢
失精度,是因为float的储存方式为一位符号为,八位指数位,23位尾数位,
尾数为只有23位,其23位以后的无法存储,所以丢失了数据,丢失精度