如何确定精度

我们常看到 float 类型是4个字节, 7位有效数字。但是我总是在想为什么float是7位有效数字,而不是8位,9位,10位?

我在baidu,google上搜了一通,发现很多人把float的存储方式写的很明白很清楚,但是还是无法解释为什么只有7个有效数字,

答非所问。

 

今天彻底把这个问题研究了一下,总算是得出个我认为正确的结论(如果有误,欢迎大家纠正)。

7位有效数字,说明第8位是不确定的,只能精确到第7位有效数字,第7位肯定是正确的。

那怎么样你才能得出结论说第7位肯定是正确的呢?

float 型 24位是存储底数的(精度是说你可以精确到小数点后几位,范围是说你可以表示的数的大小,是两个概念,不要混在一起),

2^(-24) = 0.000000059604644775391, 什么是7位有效数字,说明能精确到小数点后第6位,为什么能精确到小数点后第6位呢,你凭什么说第6位是肯定正确的呢,我的结论是 2^(-25) 以后的数字全部加起来也不能影响到小数点后第6位了,

换句话说2^(-25) + 2^(-26)+2^(-27)+....... < 0.000000040....., 也就是说

2^(-24)+2^(-25) + 2^(-26)+2^(-27)+....... <0.0000001. 那就是说24位后面所有的数字加起来也上不了1位到小数点后第7位,那他自然影响不到第6位了,如果他能上1位到小数点后第7位,那他就有可能影响到第6位的值。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值