java理解int转float为何会可能精度丢失的问题


long的范围大于double

long 2^63 4B

float 3.4*10^38 4B

long与float的丢失原理同下:

1)小数转换成二进制:

整数和小数分别转换。
整数除以2,商继续除以2,得到0为止,将余数逆序排列。
22 / 2 11 余0
11/2 5 余 1
5 /2 2 余 1
2 /2 1 余 0
1 /2 0 余 1
所以22的二进制是10110
小数乘以2,取整,小数部分继续乘以2,取整,得到小数部分0为止,将整数顺序排列。
0.8125x2=1.625 取整1,小数部分是0.625
0.625x2=1.25 取整1,小数部分是0.25
0.25x2=0.5 取整0,小数部分是0.5
0.5x2=1.0 取整1,小数部分是0,结束
所以0.8125的二进制是0.1101
十进制22.8125等于二进制10110.1101

2)float的存储结构是这样的:

(1符号位)(8指数)(23尾数)

int的存储结构如下:

(1符号位)(31)

所以float的转换过程是怎么样的呢?

举例:
    17.625在内存中的存储为:
    首先要把17.625换算成二进制:10001.101
---------------------------------------
    整数部分:除以2,直到商为0,余数反转。(即:模2取余法)
    17 / 2 = 8 --- 1
    8 / 2 = 4 --- 0
    4 / 2 = 2 --- 0
    2 / 2 = 1 --- 0
    1 / 2 = 0 --- 1
    小数部分:乘以2,直到乘位为0,进位顺序取。(即:乘2取整法)
    按如下算法进行: 
      1)首先给小数部分乘2,得到的数,如果小数点前为1;则计1,为0,则计0。 
      2)再对剩下的小数部分乘2,再计出1或0。 
      3)重复以上步骤,直至达到需要的精度。
    0.625 x 2 = 1.3   --- 计为1
    0.3 x 2 = 0.6       --- 计为0
    0.6 x 2 = 1.2       --- 计为1
    0.2 x 2 = 0.4       --- 计为0
              ......(算到需要的精度为止)

    再例如:
    0.5 x 2 = 1.0     --- 计为1
    0 x 2 = 0    --- 结束
    所以:0.5(D) = 0.1(B)

          十           二

---------------------------------------
  再将10001.101右移,直到小数点前只剩1位:
  1.0001101 * 2^4 因为右移动了四位,
---------------------------------------
  这个时候,我们的底数和指数就出来了。
    底数:因为小数点前必为1,所以IEEE规定只记录小数点后的就好。所以,此处的底数为:0001101
    指数:实际为4,必须加上127(转出的时候,减去127),所以为131。也就是10000011
  符号部分是正数,所以是0
  综上所述,17.625在内存中的存储格式是:
  01000001 10001101 00000000 00000000 

3)反过来(解释下这张图,网上很多人都说不太清楚)


0.15626*2=0.3125 。。。。0

0.3125*2=0.625.。。。。0

0.625*2=1.25.。。。。。1

0.25*2=0.5.。。。。0

0.5*2=1.。。。1

0.15625=(0.00101)2=》1.01*2^(-3)

127-3=124=》01111100

必须加上127(转出的时候,减去127),明白了吧!

(0100 0000 1011 0000 0000 0000 0000 0000)2 = float(5.5)

不明白。简易版本:

int与float,都是32位,但是内存结构既存储结构是不一样的,float只能有24位来确定精度,而int是32位。其他类型也如此进行理解即可。

两种“精度丢失”
一个是有效数字丢失,int转float有可能丢失末尾的几位有效数字,这个是允许的,既然用户写了这个代码,说明他接受这种小范围误差
另一个是目标类型可能完全无法表示数据,比如float存放一个1e30,转为int是无法表示的,因为int最多21亿多,这个就丢得没影了,所以会告诉你有可能出问题


  • 6
    点赞
  • 10
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值