float和double的精度与范围计算

 

符号位

指数位

尾数位

float

1

8

23

double

1

11

52

注:指数位中包含指数位的符号位

 

  •  float的指数位为8位,故指数的范围为(-28~27-1),即(-128~127);
  •  整数部分始终为隐藏的“1”,小数部分为23位,2^24-1=16777216,共8位,但绝对能保证的为7位,故float的精度为7~8位;
  •  float绝对值的最大值为1.111…11e+01111111,即(2-2^(-23) )×2^127≈3.4028e+38
  • 最小值为1.000…00e+10000000,即1×2^(-128)≈0,但并不等于0
  • 同理可得double的精度和范围。
  • 精度:15~16位;
  • 范围(绝对值):0~1.7977e+308。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值