关于浮点数的精度与取值范围的问题

转载 2016年08月31日 15:24:26

作者: jillzhang
联系方式:jillzhang@126.com
本文为原创,转载请保留出处以及作者, 谢谢
C语言和C#语言中,对于浮点类型的数据采用单精度类型(float)和双精度类型(double)来存储,float数据占用32bit,double数据占用64bit,我们在声明一个变量float f= 2.25f的时候,是如何分配内存的呢?如果胡乱分配,那世界岂不是乱套了么,其实不论是float还是double在存储方式上都是遵从IEEE的规范的,float遵从的是IEEE R32.24 ,而double 遵从的是R64.53。
无论是单精度还是双精度在存储中都分为三个部分:
符号位(Sign) : 0代表正,1代表为负
指数位(Exponent):用于存储科学计数法中的指数数据,并且采用移位存储
尾数部分(Mantissa):尾数部分
其中float的存储方式如下图所示:
float类型的存储方式
这里写图片描述
而双精度的存储方式为:
这里写图片描述
double类型数据的存储方式
R32.24和R64.53的存储方式都是用科学计数法来存储数据的,比如8.25用十进制的科学计数法表示就为:8.25*10^0,而120.5可以表示为:1.205*10^2。而我们傻蛋计算机根本不认识十进制的数据,他只认识0,1,所以在计算机存储中,首先要将上面的数更改为二进制的科学计数法表示,8.25用二进制表示可表示为1000.01,我靠,不会连这都不会转换吧?那我估计要没辙了。120.5用二进制表示为:1110110.1用二进制的科学计数法表示1000.01可以表示为1.0001*2^3,1110110.1可以表示为1.1101101*2^6,任何一个数都的科学计数法表示都为1.xxx*2^n,尾数部分就可以表示为xxxx,第一位都是1嘛,干嘛还要表示呀?可以将小数点前面的1省略,所以23bit的尾数部分,可以表示的精度却变成了24bit,道理就是在这里,那24bit能精确到小数点后几位呢,我们知道9的二进制表示为1001,所以4bit能精确十进制中的1位小数点,24bit就能使float能精确到小数点后6位,而对于指数部分,因为指数可正可负,8位的指数位能表示的指数范围就应该为:-127-128了,所以指数部分的存储采用移位存储,存储的数据为元数据+127,下面就看看8.25和120.5在内存中真正的存储方式。
首先看下8.25,用二进制的科学计数法表示为:1.0001*2^3
按照上面的存储方式,符号位为:0,表示为正,指数位为:3+127=130 ,位数部分为,故8.25的存储方式如下图所示:
这里写图片描述
单精度浮点数8.25的存储方式
而单精度浮点数120.5的存储方式如下图所示:
这里写图片描述
单精度数120.5的存储方式
那么如果给出内存中一段数据,并且告诉你是单精度存储的话,你如何知道该数据的十进制数值呢?其实就是对上面的反推过程,比如给出如下内存数据:0100001011101101000000000000,首先我们现将该数据分段,0 10000 0101 110 1101 0000 0000 0000 0000,在内存中的存储就为下图所示:
这里写图片描述
根据我们的计算方式,可以计算出,这样一组数据表示为:1.1101101*2^6=120.5
而双精度浮点数的存储和单精度的存储大同小异,不同的是指数部分和尾数部分的位数。所以这里不再详细的介绍双精度的存储方式了,只将120.5的最后存储方式图给出,大家可以仔细想想为何是这样子的
这里写图片描述
文本框: 0 100 0000 0101 1101 1010 0000 0000 0000 0000 0000 0000 0000 0000 0000 0000 0000
下面我就这个基础知识点来解决一个我们的一个疑惑,请看下面一段程序,注意观察输出结果
float f = 2.2f;
double d = (double)f;
Console.WriteLine(d.ToString(“0.0000000000000”));
f = 2.25f;
d = (double)f;
Console.WriteLine(d.ToString(“0.0000000000000”));
可能输出的结果让大家疑惑不解,单精度的2.2转换为双精度后,精确到小数点后13位后变为了2.2000000476837,而单精度的2.25转换为双精度后,变为了2.2500000000000,为何2.2在转换后的数值更改了而2.25却没有更改呢?很奇怪吧?其实通过上面关于两种存储结果的介绍,我们已经大概能找到答案。首先我们看看2.25的单精度存储方式,很简单 0 1000 0001 001 0000 0000 0000 0000 0000,而2.25的双精度表示为:0 100 0000 0001 0010 0000 0000 0000 0000 0000 0000 0000 0000 0000 0000 0000 0000,这样2.25在进行强制转换的时候,数值是不会变的,而我们再看看2.2呢,2.2用科学计数法表示应该为:将十进制的小数转换为二进制的小数的方法为将小数*2,取整数部分,所以0.282=0.4,所以二进制小数第一位为0.4的整数部分0,0.4×2=0.8,第二位为0,0.8*2=1.6,第三位为1,0.6×2 = 1.2,第四位为1,0.2*2=0.4,第五位为0,这样永远也不可能乘到=1.0,得到的二进制是一个无限循环的排列 00110011001100110011… ,对于单精度数据来说,尾数只能表示24bit的精度,所以2.2的float存储为:
单精度数202的存储方式
但是这样存储方式,换算成十进制的值,却不会是2.2的,应为十进制在转换为二进制的时候可能会不准确,如2.2,而double类型的数据也存在同样的问题,所以在浮点数表示中会产生些许的误差,在单精度转换为双精度的时候,也会存在误差的问题,对于能够用二进制表示的十进制数据,如2.25,这个误差就会不存在,所以会出现上面比较奇怪的输出结果。

本文属作者原创,只发布在博客园,希望大家在转载的时候,注明出处和作者,谢谢。

关于浮点数的精度与取值范围的问题

 作者: jillzhang     联系方式:jillzhang@126.com    本文为原创,转载请保留出处以及作者, 谢谢    C语言和C#语言中,对于浮点类型的数据采用单精度类型(flo...
  • rsp19801226
  • rsp19801226
  • 2008年10月16日 13:34
  • 35872

问题解决 Java浮点数的精度及解决方法

先以一个题目来开头:
  • u010419438
  • u010419438
  • 2014年09月08日 00:33
  • 470

关于Java浮点数运算精度丢失问题

前几天看了一个朋友的博客,说Java中浮点数运算精度丢失的问题,他给出了问题,也指出了C语言相对于Java的优势,其实,Java中也是可以解决浮点运算精度丢失问题的。 那就是:BigDecima...
  • u013683486
  • u013683486
  • 2014年02月19日 14:43
  • 459

Java 浮点数 float和double类型的表示范围和精度

隐约记得,浮点数判断大小好像有陷阱,因为底层的二进制数不能精确表示所有的小数。有事后会产生让人觉得莫名其妙的事情。...
  • zq602316498
  • zq602316498
  • 2014年11月15日 21:49
  • 31884

JavaScript 浮点数运算的精度问题

问题描述 在 JavaScript 中整数和浮点数都属于 Number 数据类型,所有数字都是以 64 位浮点数形式储存,即便整数也是如此。 所以我们在打印 1.00 这样的浮点数的结果是 ...
  • helloxiaoliang
  • helloxiaoliang
  • 2017年05月25日 10:57
  • 1201

php浮点数的精度问题深究

前段时间同事在算个值的时候发现,算出来的值不对,于是来问我,之前的开发中也遇到过这个问题,已经记不清楚怎么处理的了,貌似用round四舍五入来着 今天就这个问题深入看一下 鸟哥的文章 PHP浮点数的一...
  • a454213722
  • a454213722
  • 2016年08月06日 12:00
  • 1531

浮点数精度丢失问题

C#中的浮点数,分单精度(float)和双精度(double): float 是 System.Single 的别名,介于 -3.402823e38 和 +3.402823e38 之间的32位...
  • a2657222
  • a2657222
  • 2014年12月22日 14:15
  • 1145

深入理解浮点数有效位

浮点数分析
  • dreamer2020
  • dreamer2020
  • 2014年06月25日 03:28
  • 3115

Python中浮点数精度处理

Python中,浮点数运算,经常会碰到如下情况: 出现上面的情况,主要还是因浮点数在计算机中实际是以二进制保存的,有些数不精确。 比如说: 0.1是十进制,转化为二进制后它是个无限循环的数: 0....
  • Jerry_1126
  • Jerry_1126
  • 2017年07月01日 21:08
  • 1906

Java中float/double取值范围与精度

Java浮点数浮点数结构  要说清楚Java浮点数的取值范围与其精度,必须先了解浮点数的表示方法,浮点数的结构组成,之所以会有这种所谓的结构,是因为机器只认识01,你想表示小数,你要机器认识小数点这个...
  • a327369238
  • a327369238
  • 2016年08月29日 21:10
  • 25912
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:关于浮点数的精度与取值范围的问题
举报原因:
原因补充:

(最多只允许输入30个字)