我的一篇文章讲到C语言中浮点数在内存是如何存储的。
符点数是采用二进制科学计数法来进行存储的,因此,绝大多数的数在计算机中是不能 精确 表示的。
如果两个数a b都是常数赋值,这样比较,不会有问题,如:double a=5.3,b=5.3;
double a = 5.3, b = 5.3;
if (a == b)
{
printf("a = b\n");
}
else
{
printf("a != b\n");
这时会输出a=b如果a或b是经过运算后得到的值,这时就不一定是一个精确的你想要的值了,如:
double a = 2.7 + 2.6, b = 5.3;
if (a == b)
{
printf("a = b\n");
}
else
{
printf("a != b\n");
这时就不一定能输出a=b了!
此时需要利用fabs()求出a和b相减后的绝对值,然后和预定义的一个精度相比较,如果小于精度值,则认为a和b相等
double a = 2.7 + 2.6, b = 5.3;
if (fabs(a - b) < 0.000001)
{
printf("a = b\n");
}
else
{
printf("a != b\n");