浮点数精度丢失分析

浮点数精度丢失分析

不了解浮点数运算及IEEE754浮点数标准的同学可以参考博文:浮点数详解

案例1(西电19真题)

# include <stdio.h>
main()
{
	int i=123456789;
	float f=123456789.0f;
	f+=20;
	printf("1: %f\n",f);
	f=(float)i;
	printf("2: %f\n",f);
	
	float f1=0.33f,f2=0.11f;
	f2 += 0.22f;
	if(f1==f2)
	{
		printf("3:Equal\n");
	}
	else printf("3:Not Equal\n");
 } 

运行结果:

1: 123456816.000000
2: 123456792.000000
3:Not Equal

问题1:解释为何浮点数123456789.0与20相加的结果为123456816
问题解析:
在这里插入图片描述

  • float变量采用IEEE754单精度浮点数的存储格式
  • 即尾数省略整数部分默认的1,而后使用23位来表示尾数的小数部分
  • 上述格式所能表示的尾数绝对值最大精度为: 2 − 23 2^{-23} 223
  • 题目中整数123456789的二进制形式为:111010110111100110100010101(27位)
  • 按照IEEE754标准规格化处理后尾数的结果为1.11010110111100110100010101(就近舍入法),阶码真值为 2 26 2^{26} 226
  • 由于IEEE754尾数小数部分长度最大23位,且舍入处理采用0舍1入法,故舍入处理后尾数部分为:11010110111100110100011
  • 20的二进制形式为:10100,按照IEEE754规格化处理后为1.0100,尾数补全为01000000000000000000000
  • 20的阶码真值为 2 4 2^4 24,依照小阶对大阶的原则,并将20的尾数右移22位后为0.000000000000000000000101
  • 尾数舍入处理后为0.00000000000000000000011与尾数1.11010110111100110100011相加
  • 20与123456789尾数相加结果为11010110111100110100100,阶码真值为 2 26 2^{26} 226
  • 按照该结果表示相加后的单精度浮点数,则结果为 0 10011001 1.11010110111100110100110
  • 将该计算结果化为真值即111010110111100110100110000B=123456816

在这里插入图片描述

问题2:解释为何整数123456789转换为单精度浮点数后,变为123456792.0

  • 由上一问分析可知,123456789存储为浮点数后,尾数经过规格化与舍入处理后变为:11010110111100110100011
  • 尾数补全整数位后为1.11010110111100110100011,阶码 2 26 2^{26} 226
  • 还原为真值为:111010110111100110100011000B=123456792

问题3:解释为何浮点数0.11+0.22不等于0.33

  • 本题简要分析同样是因为存在精度丢失问题
  • 在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
三个浮点数尾数规格化后的精度明显超出了 2 − 23 2^{-23} 223,作为单精度浮点数存储和运算时造成的精度丢失导致了运算结果的不相等

  • 2
    点赞
  • 9
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值