浮点数陷阱

看下面一段程序

#include <stdio.h>
int main()
{
	double i;
	for(i = 0; i != 10; i += 0.1)
    	printf("%.1lf\n", i);
}
你也许觉得这个程序很容易理解;但是请别相信自己的想象力,运行一下:

什么无限输出下去??

不是按到底到10的时候会停止吗?

再看一段程序:

#include <cstdio>
#define exp 0.000001
int main()
{
	if(0.1+0.1+0.1 == 0.3)  
    	printf("equal\n");  
	else  
    	printf("not equal\n"); 
	return 0;
}
你觉得应该输出的是:equal 

但是运行下:什么? not equal???

好吧,我们来讨论下;

首先,我们来明白一个概念:

实际上,计算机中的所有数据都用二进制表示,包括浮点数。这就导致某些浮点数不能用二进制精确表示,例如0.1(这很容易理解,就像10/3不能被十进制精确表示一样

进一步地说,浮点数是采用分数+指数来表示的,例如

0.5 = 1/2

0.75 = 1/2 + 1/(2^2)

0.875 = 1/2 + 1/(2^2) + 1/(2^3)

0.1 = 1/(2^4) + 1/(2^5) + 1/(2^8) + ...

其中0.1只能无限循环下去,这就意味着0.1在计算机中不能被精确表示,因此产生上述两个陷阱也就很容易理解;

那么,我们来怎么处理这个问题? 首先我们一定不能用 ==   

然后;

拿第一个例子为例,你是不是会想到fabs(A-B) < epsilon 这样的一种判别方法 ;

这个方法在一定情况下是可行的;

但是有一种情况却会出问题;比如,你的 epsilon 取值为 0.00001  那么我比较的数据是0.00005和0.00006也会判断为相等;

这个epsilon实际上是我们常说的绝对误差;

为了避免这个绝对误差,我们会想到用相对误差;

而更精确的结果判断相等,参见下列函数:

bool IsEqual(float a, float b, float absError, float relError ) 
{   
	if(a==b) 
		return true; 
	if(fabs(a-b)<absError ) 
		return true; 
	if(fabs(a>b)) 
		return fabs((a-b)/a>relError) ? true : false; 
	if(fabs(a<b))
		return fabs((a-b)/b>relError) ? true : false; 
}  




  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值