节选自 : http://blog.csdn.net/waitfor_/article/details/8035773
浮点数(以C/C++为准),一般用的较多的是float, double。
| 占字节数 | 数值范围 | 十进制精度位数 |
float | 4 | -3.4e-38~3.4e38 | 6~7 |
double | 8 | -1.7e-308~1.7e308 | 14~15 |
如果内存不是很紧张或者精度要求不是很低,一般选用double。14位的精度(是有效数字位,不是小数点后的位数)通常够用了。注意,问题来了,数据精度位数达到了14位,但有些浮点运算的结果精度并达不到这么高,可能准确的结果只有10~12位左右。那低几位呢?自然就是不可预料的数字了。这给我们带来这样的问题:即使是理论上相同的值,由于是经过不同的运算过程得到的,他们在低几位有可能(一般来说都是)是不同的。这种现象看似没太大的影响,却会一种运算产生致命的影响: ==。恩,就是判断相等。注意,C/C++中浮点数的==需要完全一样才能返回true。
#include<stdio.h>
#include<math.h>
int main()
{
double a = asin(sqrt(2.0) / 2) * 4.0;
double b = acos(-1.0);
printf(" a = %.20lf\n", a);
printf(" b = %.20lf\n", b);
printf(" a - b = %.20lf\n", a - b);
printf("a == b = %d\n", a == b);
return 0;
}
输出:
a = 3.14159265358979360000
b = 3.14159265358979310000
a - b = 0.00000000000000044409
a == b = 0
我们解决的办法是引进eps,来辅助判断浮点数的相等。
eps 缩写自 epsilon ,表示一个小量,但这个小量又要确保远大于浮点运算结果的不确定量。 eps 最常见的取值是 1e-8 左右。用法如下:
#include<stdio.h>
void main(){
long fun(int n);
int i;
double e=0;
double eps=1e-6;//eps表示精度 此处指10的-6次方
for(i=0;1.0/fun(i)>eps;i++)
{
e+=1.0/fun(i);
}
printf("e=%lf\n",e);
}
long fun(int n)//求n!的函数
{
if(n==0)
return 1;
else
return n*fun(n-1);
}
则各种判断大小的运算都应做如下修正:
传统意义 | 修正写法 | |
a == b | fabs(a – b) < eps | |
a != b |
| fabs(a – b) > eps |
a < b |
| a – b < -eps |
a <= b |
| a – b < eps |
a > b |
| a – b > eps |
a >= b |
| a – b > -eps |
这样,我们才能把相差非常近的浮点数判为相等;同时把确实相差较大(差值大于eps)的数判为不相等。
PS: 养成好习惯,尽量不要再对浮点数做==判断。例如,我的修正写法里就没有出现==。
eps带来的函数越界
如果sqrt(a), asin(a), acos(a) 中的a是你自己算出来并传进来的,那就得小心了。
如果a本来应该是0的,由于浮点误差,可能实际是一个绝对值很小的负数(比如1e-12),这样sqrt(a)应得0的,直接因a不在定义域而出错。
类似地,如果a本来应该是±1,则asin(a)、acos(a)也有可能出错。
因此,对于此种函数,必需事先对a进行校正。