1.浮点数出现精度问题的原因:
字节数 | 有效数字位 | |
float | 4 | 6 |
double | 8 | 15 |
实际上一般选用double类型,double有15位有效数字若输入的数字为16位则会有误差。
int main()
{
double a=9999999999999999;
printf("%f\n",a);
return 0;
}
2.怎样才能减少误差带来的影响:
使用宏定义一个EPS来判断误差:
#define EPS 0.000001
(1)判断a == b fabs(a-b) < EPS
(2)判断a != b fabs(a-b) > EPS
(3)判断a < b a-b < EPS
(4)判断a > b a-b > EPS
#include<stdio.h>
#include<math.h>
#define EPS 0.000001
int main()
{
float a = 999999;
float b = 999999;
if(fabs(a-b) < EPS) //(1)
{
printf("a等于b\n");
printf("%f\n",a);
}
if(fabs(a-b) > EPS) //(2)
{
printf("a不等于b\n");
printf("%f\n",a);
printf("%f\n",b);
}
return 0;
}
#include<stdio.h>
#include<math.h>
#define EPS 0.000001
int main()
{
float a = 999998;
float b = 999999;
if((a-b) < EPS) //(3)
{
printf("a小于b\n");
printf("%f\n",a);
printf("%f\n",b);
}
if((a-b) > EPS) //(4)
{
printf("a大于b\n");
printf("%f\n",a);
printf("%f\n",b);
}
return 0;
}
以上为判断a与b关系的方式。