一文搞懂浮点数存储

float 遵从 IEEE R32.24 规范，double 遵从 IEEE R64.53 规范， 用科学计数法存储数据

计算机不认识十进制的数据，只认识0、1，所有数据在计算机底层都以二进制形式存在

一、科学计数法

十进制的科学计数法：8.25 = 8.25 * 10^0，120.5 = 1.205 * 10^2

二进制的科学计数法：1000.01 = 1.00001 * 2^3，1111000.1 = 1.1110001 * 2^6

任何一个数的二进制科学计数法表示为 1.xxx * 2^n ，尾数部分为xxx，第一位都是1

二、移码存储

移码，补码的符号位取反，符号位为“1”表示正数，符号位为“0”表示负数

8位有符号数补码范围为1000 0000 - 0111 1111，对应的数值是-128~127

8位有符号数移码范围为0111 1111 - 1000 0000，对应的数值是-127~128

11位有符号数补码范围为100 0000 0000 - 011 1111 1111，对应的数值是-1024~1023

11位有符号数移码范围为011 1111 1111 - 100 0000 0000，对应的数值是-1023~1024

三、浮点数范围

指数可正可负，采用移位存储，指数位数决定浮点数范围

存储的数据为元数据+127（单精度），元数据+1023（双精度）

float的指数范围为-127 ~ 128，float的范围为-2^128 ~ 2^128

double的指数范围为-1023 ~ 1024，double的范围为-2^1024 ~ 2^1024

四、浮点数精度

浮点数在内存中按科学计数法存储，整数部分始终是1，尾数位数决定浮点数精度

float的精度为7位，double的精度为15位，小数尽量使用double，不要使用float，容易发生精度损失

• 小数点前都是1，有23bit尾数部分，则可表示精度变为24bit

​    24位二进制可以表示几位十进制的有效数字，10^n = 2^24，对数运算求n

• 小数点前都是1，有52bit尾数部分，则可表示精度变为53bit

​    53位二进制可以表示几位十进制的有效数字，10^n = 2^53，对数运算求n

五、存储方式转换