浮点数有效数字位数

在上一篇《浮点数能够精确表示的整数的范围》中,我们知道了,对于float,实际有效的尾数是23位,对于double,实际有效的位数是53位。所以这里我们可以得到float的十进制表示有效数字个数为:


这里最小的n为7,对于double,最小的n为15。

有时我们在代码中可能会看到比较浮点数时,会使用一个epsilon,而这个epsilon = 1e-6,可能就是因为当浮点数绝对值 >= 1时,小数点后有效位数为6位。


EDIT:  (2012/7/7)

上面的说法可能有些有些模糊,这里我再试图说明一下。

对于IEEE754格式,具体的尾数的有效数字个数分2种,一种是规格化数的情况,另一种是非规格化数的情况。非规格化数的尾数的有效位数是23,而规格化数多一位,是24。对于绝对值>=1的数,是由规格化数来表示的,也就是这里由24位,那么实际的十进制有效位数就是8。当然绝对值<1的数,也可能是由规格化数来表示,所以此时小数点后应该最多是8位。


Reference:

http://en.wikipedia.org/wiki/Floating_point

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值