为什么浮点数小数点后仅六位有效?

详情请自行移步IEEE754标准中,这里仅抛砖引玉浅谈下。

在IEEE754标准中进行了单精度浮点数(float)和双精度数浮点数(double)的定义。float有32bit(4个字节),double有64bit(8个字节)。它们的构成包括符号位、指数位和尾数位

这些位的构成如下:

种类-------符号位-------------指数位----------------尾数位----
float----第31位(占1bit)----第30-23位(占8bit)----第22-0位(占23bit)
double----第63位(占1bit)----第62-52位(占11bit)----第51-0位(占52bit)

取值范围主要看指数部分:

float的指数部分有8bit(2^8),由于是有符号型,所以得到对应的指数范围-128~128。
double的指数部分有11bit(2^11),由于是有符号型,所以得到对应的指数范围-1024~1024。
由于float的指数部分对应的指数范围为-128~128,所以取值范围为:
-2^128 到2^128,约等于 -3.4E38 — +3.4E38

精度(有效数字)主要看尾数位

尾数部分是23位(0-22),而2^23是8388608,有7位,而指数跟符号只不过是有多少个0的问题,所以有效位数是7位,即浮点数通常仅有六位有效小数,在小便会被舍弃丢失。

  • 5
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值