Java float和double精度范围大小

要想理解float和double的取值范围和计算精度,必须先了解小数是如何在计算机中存储的:

举个例子:78.375,是一个正小数。要在计算机中存储这个数,需要把它表示为浮点数的格式,先执行二进制转换:

 

一 小数的二进制转换(浮点数)

78.375的整数部分:

小数部分:

 

所以,78.375的二进制形式就是1001110.011

然后,使用二进制科学记数法,有

注意,转换后用二进制科学记数法表示的这个数,有底有指数有小数部分,这个就叫做浮点数

 

二 浮点数在计算机中的存储

在计算机中,保存这个数使用的是浮点表示法,分为三大部分:

第一部分用来存储符号位(sign),用来区分正负数这里是0,表示正数

第二部分用来存储指数(exponent),这里的指数是十进制的6

第三部分用来存储小数(fraction),这里的小数部分是001110011

需要注意的是,指数也有正负之分,后面再讲。

如下图所示(图片来自维基百科):

 

 

比如float类型是32位,是单精度浮点表示法:

符号位(sign)占用1位,用来表示正负数,

指数位(exponent)占用8位,用来表示指数,

小数位(fraction)占用23位,用来表示小数,不足位数补0。

 

而double类型是64位,是双精度浮点表示法:

符号位占用1位,指数位占用11位,小数位占用52位。

 

到这里其实已经可以隐隐看出:

指数位决定了大小范围,因为指数位能表示的数越大则能表示的数越大嘛!

而小数位决定了计算精度,因为小数位能表示的数越大,则能计算的精度越大咯!

 

可能还不够明白,举例子吧:

float的小数位只有23位,即二进制的23位,能表示的最大的十进制数为2的23次方,即8388608,即十进制的7位,严格点,精度只能百分百保证十进制的6位运算。

double的小数位有52位,对应十进制最大值为4 503 599 627 370 496,这个数有16位,所以计算精度只能百分百保证十进制的15位运算。

作者:Boss呱呱
链接:https://www.zhihu.com/question/46432979/answer/221485161
来源:知乎
著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。

三 指数位的偏移量与无符号表示

需要注意的是指数可能是负数,也有可能是正数,即指数是有符号整数,而有符号整数的计算是比无符号整数麻烦的。所以为了减少不必要的麻烦,在实际存储指数的时候,需要把指数转换成无符号整数。那么怎么转换呢?

注意到float的指数部分是8位,则指数的取值范围是 -126到+127,为了消除负数带来的实际计算上的影响(比如比较大小,加减法等),可以在实际存储的时候,给指数做一个简单的映射,加上一个偏移量,比如float的指数偏移量为127,这样就不会有负数出现了

比如

指数如果是6,则实际存储的是6+127=133,即把133转换为二进制之后再存储。

指数如果是-3,则实际存储的是-3+127=124,即把124转换为二进制之后再存储。

当我们需要计算实际代表的十进制数的时候,再把指数减去偏移量即可。

对应的double类型,存储的时候指数偏移量是1023。

四 最后

所以用float类型来保存十进制小数78.375的话,需要先转换成浮点数,得到符号位指数小数部分。这个例子前面已经分析过,所以:

符号位是0,

指数位是6+127=133,二进制表示为10 000 101,

小数部分是001110011,不足部分请自动补0。

连起来用float表示,加粗部分是指数位,最左边是符号位0,代表正数:

0 10000101 001110011 00000 00000 0000

如果用double来保存。。。自己计算吧,太多0了。

 

作者:Boss呱呱
链接:https://www.zhihu.com/question/46432979/answer/221485161

 

  • 12
    点赞
  • 33
    收藏
    觉得还不错? 一键收藏
  • 3
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值