-
二进制浮点数是以 符号+数值表示法 储存:
将最高位指定为符号位(sign bit);
“指数部份”:即次高的e位 - 决定数值的数量级
“小数部份”:即余下的f位 - 决定数值的浮动范围
-
最终数值计算公式:
V=(-1)^s*(1+f)*2^E
其中
Value: float变量值 【32 位】
sign:符号位 【1 位】
Exponent:指数部分【 8位】
fraction:尾数部分,小数点后的部分【23 位】
-
其中2^23=8388608,可以表示7位有效数字,因此精度为7位。
float精度分析
最新推荐文章于 2022-10-17 16:20:17 发布