文章目录
浮点数精度丢失分析
不了解浮点数运算及IEEE754浮点数标准的同学可以参考博文:浮点数详解
案例1(西电19真题)
# include <stdio.h>
main()
{
int i=123456789;
float f=123456789.0f;
f+=20;
printf("1: %f\n",f);
f=(float)i;
printf("2: %f\n",f);
float f1=0.33f,f2=0.11f;
f2 += 0.22f;
if(f1==f2)
{
printf("3:Equal\n");
}
else printf("3:Not Equal\n");
}
运行结果:
1: 123456816.000000
2: 123456792.000000
3:Not Equal
问题1:解释为何浮点数123456789.0与20相加的结果为123456816
问题解析:
- float变量采用IEEE754单精度浮点数的存储格式
- 即尾数省略整数部分默认的1,而后使用23位来表示尾数的小数部分
- 上述格式所能表示的尾数绝对值最大精度为: 2 − 23 2^{-23} 2−23
- 题目中整数123456789的二进制形式为:111010110111100110100010101(27位)
- 按照IEEE754标准规格化处理后尾数的结果为1.11010110111100110100010101(就近舍入法),阶码真值为 2 26 2^{26} 226
- 由于IEEE754尾数小数部分长度最大23位,且舍入处理采用0舍1入法,故舍入处理后尾数部分为:11010110111100110100011
- 20的二进制形式为:10100,按照IEEE754规格化处理后为1.0100,尾数补全为01000000000000000000000
- 20的阶码真值为 2 4 2^4 24,依照小阶对大阶的原则,并将20的尾数右移22位后为0.000000000000000000000101
- 尾数舍入处理后为0.00000000000000000000011与尾数1.11010110111100110100011相加
- 20与123456789尾数相加结果为11010110111100110100100,阶码真值为 2 26 2^{26} 226
- 按照该结果表示相加后的单精度浮点数,则结果为 0 10011001 1.11010110111100110100110
- 将该计算结果化为真值即111010110111100110100110000B=123456816
问题2:解释为何整数123456789转换为单精度浮点数后,变为123456792.0
- 由上一问分析可知,123456789存储为浮点数后,尾数经过规格化与舍入处理后变为:11010110111100110100011
- 尾数补全整数位后为1.11010110111100110100011,阶码 2 26 2^{26} 226
- 还原为真值为:111010110111100110100011000B=123456792
问题3:解释为何浮点数0.11+0.22不等于0.33
- 本题简要分析同样是因为存在精度丢失问题
三个浮点数尾数规格化后的精度明显超出了
2
−
23
2^{-23}
2−23,作为单精度浮点数存储和运算时造成的精度丢失导致了运算结果的不相等