Java 中float类型数的储存方式,以及为什么会丢失精度

先看一段代码

    	float a = 100.0000005f;
    	float b = 100.000001f;
    	System.out.println("10.0000005f==10.000001f?" + (a == b));

这是执行结果:

在这里插入图片描述

为什么明显不同的两个float的比较会是true?

这是由于float的储存方式比较特别,与int的不同

100.0000005f转化为二进制后为:1100100.00000000000000000000100001100011011110111101

转换时,将整数部分与小数部分分开转换

100转换得1100100

小数部分要转换二进制,需要乘2, 乘完之后 取整数部分,然后用乘的结果减去整数部分, 然后 接着
乘2, 直至最后没有小数或者小数出现循环, 即乘完

比如0.5

0.5 * 2 = 1.0 (取1)
0 * 2 = 0 (0)
所以, 转换后 0.5 = 0.1

如果等于0, 就取前面不为0的部分.

这里相信大家都会转换,就不详细的讲了

float的占4byte即32位

0-00000000-00000000000000000000000

从左边开始,其中第一位为符号位,第二位到第九位为指数位,后面的23位为尾数位

以下转化为IEEE754标准。[here]

1100100.00000000000000000000100001100011011110111101

规格化后为

1.10010000000000000000000000100001100011011110111101E110(E110为二进制)

这里使用到移位存储, 对于float 数值来说, 指数位要加上127, 即0111111(二进制)

  00000110 
+ 01111111
-----------
  10000101
 

100.0000005f为正数,所以第一位符号位为0,第二到第九位指数位为10000101,最后面23位尾数位

取小数点后面的23位即01000000000000000000000,所以储存结果为

0100 0010 1100 1000 0000 0000 0000 0000

由于尾数只取23位,所以原转化为二进制的数后面的数就丢失了,导致计算机储存时,并没有正确的

储存100.0000005f

100.000001f 转化后在计算机里储存的是

0100 0010 1100 1000 0000 0000 0000 0000

总结

即100.0000005f与100.000001f的储存结果是一样的,所以为true;所以之所以丢

失精度,是因为float的储存方式为一位符号为,八位指数位,23位尾数位,

尾数为只有23位,其23位以后的无法存储,所以丢失了数据,丢失精度

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值