今天面试遇到这样一个奇葩问题,觉得奇葩的同时觉得,这么基本的储存为什么我会不懂,还一直跟计算机打交道,有点惭愧。
float和double类型数据在内存中的存储方法
浮点数(单精度的float和双精度的double)在内存中以二进制的科学计数法表示,表达式为N = 2^E * F;其中E为阶码(采用移位存储),F为尾数。
float和double都由符号位、阶码、尾数三部分组成。
float存储时使用4个字节,double存储时使用8个字节。
各部分占用位宽如下所示:
符号位 阶码 尾数 长度
float 1 8 23 32
double 1 11 52 64
符号位:0代表正数,1代表负数。
阶码: IEEE754标准表计算
例如32位的浮点数18.75 的二进制形式是:10010.11,
用IEEE754标准表示方法如下,
把小数点移动e位,使小数点左边只有一位有效数字1,这样e就是这个数的阶码的真值;对于这个数,把
小数点向左移4位,变成了1.001011,e=4,即真值阶码为4,则阶码E=e+127,用二进制表示为10000011,
E=10000011就是18.75这个数的阶码。这个数为正,因此数符位为0,18.75在计算机内的表示为
0 10000011 0010110 00000000 00000000
这样-18.75在计算中的表示为 1 10000011 0010110 00000000 00000000
比如8.25,二进制科学计数法表示为:1.00001*2^3,具体转换方法:8的二进制1000;.25的二进制.01:即0*2^(-1) + 1*2^(-2)。写为:1000.01,小数点左移3位,即转换完毕。
符号位确定:8.25为正数,符号位为0。
阶码的表示:阶码位3+127=130;二进制10000010,已经是8位。
尾数的表示:去掉小数点前面的1,为00001,后面补充0至23位:000 0100 0000 0000 0000 0000
最终8.25在内存里存储的二进制为:0100 0001 0000 0100 0000 0000 0000 0000
又比如11.4,二进制科学计数法表示:
float:1.01101100110011001100110 * 2^3,double:1.0110 1100 1100 1100 1100 1100 1100 1100 1100 1100 1100 1100 1101 * 2^3,
所以他们的值其实是不同的,因为.4用二进制无法精确表示,这也就是为什么float类型数据和double类型数据都存储11.4,但是对比起来,他们不相等的原因。
比如float a = 11.4; double b = 11.4; 要让他们正确对比,比如((float)b == a),让double数据舍弃比float多的那些尾数。