单精度浮点数和有效位数为什么是7位

最新推荐文章于 2022-04-18 21:52:58 发布

weixin_30642561

最新推荐文章于 2022-04-18 21:52:58 发布

阅读量888

点赞数

原文链接：http://www.cnblogs.com/fulina/p/4774433.html

版权

IEEE754标准详细描述了单精度浮点数的格式详查维基百科IEEE_754-1985 描述了包括如何表示（规约化非规约化 0 无穷 NAN）这几类以及为什么要如此表示

尾数位数越多，精度越高；指数位越多，可表示范围越大。物理中常用有效数字来描述此概念。

单精度浮点数的有效位数为什么是7位，找到的答案如下：

浮点数的精度取决于尾数部分。尾数部分的位数越多，能够表示的有效数字越多。 

单精度数的尾数用23位存储，加上默认的小数点前的1位1，2^(23+1) = 16777216。因为 10^7 < 16777216 < 10^8，所以说单精度浮点数的有效位数是7位。

浮点数的二进制表示

然而还是不太明白为什么有效数位就是7位了。

“浮点数的精度取决于尾数部分。尾数部分的位数越多，能够表示的有效数字越多。”这句赞同，所以双精度的有效位数肯定比单精度的多。

一个数如果有效位数大于7位如1.27893456076（12位），用float来表示就不能准确的存储了。

运行:

float a = 1.23456789076f;// --->a = 1.2345679

即用1.23456789076在计算机中存储成float的格式只能逼近到第七位，

能不能准确存储还取决于这个数字（十进制数）能不能用有限的二进制位数准确的表示。 float = 2.202 float = 2.25

如果小数部分转化为二进制时候得到一个无穷值，则会根据尾数部门的长度舍弃多余的部分，从而存储一个近似的浮点值，这就解释了为什么在比较浮点数值时候要做一个区间比较而不是等值比较。【c++反汇编与逆向分析技术揭秘】

转载于:https://www.cnblogs.com/fulina/p/4774433.html

关注