看下面一段程序
#include <stdio.h>
int main()
{
double i;
for(i = 0; i != 10; i += 0.1)
printf("%.1lf\n", i);
}
你也许觉得这个程序很容易理解;但是请别相信自己的想象力,运行一下:
什么无限输出下去??
不是按到底到10的时候会停止吗?
再看一段程序:
#include <cstdio>
#define exp 0.000001
int main()
{
if(0.1+0.1+0.1 == 0.3)
printf("equal\n");
else
printf("not equal\n");
return 0;
}
你觉得应该输出的是:equal
但是运行下:什么? not equal???
好吧,我们来讨论下;
首先,我们来明白一个概念:
实际上,计算机中的所有数据都用二进制表示,包括浮点数。这就导致某些浮点数不能用二进制精确表示,例如0.1(这很容易理解,就像10/3不能被十进制精确表示一样)
进一步地说,浮点数是采用分数+指数来表示的,例如
其中0.1只能无限循环下去,这就意味着0.1在计算机中不能被精确表示,因此产生上述两个陷阱也就很容易理解;0.5 = 1/2
0.75 = 1/2 + 1/(2^2)
0.875 = 1/2 + 1/(2^2) + 1/(2^3)
0.1 = 1/(2^4) + 1/(2^5) + 1/(2^8) + ...
那么,我们来怎么处理这个问题? 首先我们一定不能用 ==
然后;
拿第一个例子为例,你是不是会想到fabs(A-B) < epsilon 这样的一种判别方法 ;
这个方法在一定情况下是可行的;
但是有一种情况却会出问题;比如,你的 epsilon 取值为 0.00001 那么我比较的数据是0.00005和0.00006也会判断为相等;
这个epsilon实际上是我们常说的绝对误差;
为了避免这个绝对误差,我们会想到用相对误差;
而更精确的结果判断相等,参见下列函数:
bool IsEqual(float a, float b, float absError, float relError )
{
if(a==b)
return true;
if(fabs(a-b)<absError )
return true;
if(fabs(a>b))
return fabs((a-b)/a>relError) ? true : false;
if(fabs(a<b))
return fabs((a-b)/b>relError) ? true : false;
}