javaint接收float_java int转float精度缺失原因?

long的范围大于double

long与float的丢失原理同下:

1)小数转换成二进制:

整数和小数分别转换。

整数除以2,商继续除以2,得到0为止,将余数逆序排列。

22 / 2 11 余0

11/2 5 余 1

5 /2 2 余 1

2 /2 1 余 0

1 /2 0 余 1

所以22的二进制是10110

小数乘以2,取整,小数部分继续乘以2,取整,得到小数部分0为止,将整数顺序排列。

0.8125x2=1.625 取整1,小数部分是0.625

0.625x2=1.25 取整1,小数部分是0.25

0.25x2=0.5 取整0,小数部分是0.5

0.5x2=1.0 取整1,小数部分是0,结束

所以0.8125的二进制是0.1101

十进制22.8125等于二进制10110.1101

2)float的存储结构是这样的:

(1符号位)(8指数)(23尾数)

int的存储结构如下:

(1符号位)(31)

所以float的转换过程是怎么样的呢?

举例:

17.625在内存中的存储为:

首先要把17.625换算成二进制:10001.101

---------------------------------------

整数部分:除以2,直到商为0,余数反转。(即:模2取余法)

17 / 2 = 8--- 1

8 / 2 = 4 --- 0

4 / 2 = 2 --- 0

2 / 2 = 1 --- 0

1 / 2 = 0--- 1

小数部分:乘以2,直到乘位为0,进位顺序取。(即:乘2取整法)

按如下算法进行:

1)首先给小数部分乘2,得到的数,如果小数点前为1;则计1,为0,则计0。

2)再对剩下的小数部分乘2,再计出1或0。

3)重复以上步骤,直至达到需要的精度。

0.625 x 2 = 1.3 ---计为1

0.3 x 2 = 0.6 --- 计为0

0.6 x 2 = 1.2 --- 计为1

0.2 x 2 = 0.4 --- 计为0

......(算到需要的精度为止)

再例如:

0.5 x 2 = 1.0 --- 计为1

0 x 2 = 0   --- 结束

所以:0.5(D) = 0.1(B)

十 二

---------------------------------------

再将10001.101右移,直到小数点前只剩1位:

1.0001101 * 2^4 因为右移动了四位,

---------------------------------------

这个时候,我们的底数和指数就出来了。

底数:因为小数点前必为1,所以IEEE规定只记录小数点后的就好。所以,此处的底数为:0001101,

指数:实际为4,必须加上127(转出的时候,减去127),所以为131。也就是10000011,

符号部分是正数,所以是0。

综上所述,17.625在内存中的存储格式是:

01000001 10001101 00000000 00000000

3)反过来(解释下这张图,网上很多人都说不太清楚)

0.15626*2=0.3125 。。。。0

0.3125*2=0.625.。。。。0

0.625*2=1.25.。。。。。1

0.25*2=0.5.。。。。0

0.5*2=1.。。。1

0.15625=(0.00101)2=》1.01*2^(-3)

127-3=124=》01111100

必须加上127(转出的时候,减去127),明白了吧!

(0100 0000 1011 0000 0000 0000 0000 0000)2 = float(5.5)

不明白。简易版本:

int与float,都是32位,但是内存结构既存储结构是不一样的,float只能有24位来确定精度,而int是32位。其他类型也如此进行理解即可。

两种“精度丢失”

一个是有效数字丢失,int转float有可能丢失末尾的几位有效数字,这个是允许的,既然用户写了这个代码,说明他接受这种小范围误差

另一个是目标类型可能完全无法表示数据,比如float存放一个1e30,转为int是无法表示的,因为int最多21亿多,这个就丢得没影了,所以会告诉你有可能出问题

作者:冒泡

来源:知乎

著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值