浮点数的相等比较
今天群里边一哥们儿——哦,确切地说,应该是一姊妹——问到了Python中怎样判断一个浮点数的小数部分是不是0,本意是要找和C语言中的fmod函数相同功能的函数的,在Python中在math模块中有这个函数,可是却挑起了一个浮点数精度的话题。
突然想到偶们学习C语言的 时候 老师讲到过,整数的相等比较可以直接使用==来判断,但是浮点数的比较不能简单的用==来比较。那怎么对浮点数是否相等进行判断呢?
遂Google了一番,又找到了那个经典的方法:利用差值的绝对值的精度来判断。
具体就是:f1和f2是两个浮点数,precision是我们自己设置的精度,比如1e-6。
则可以用 fabs(f1-f2)<=precision 来判断f1和f2是否相等。
如果要求更高的精度,则把precision定得更小就行了。
网上有一位大牛讲,这个方法还存在问题:
“首先,precision是一个绝对的数据,也就是误差分析当中所说的绝对误差,使用一个固定的数值,对于float类型可以表达的整个数域来说是不可以的。比如precision取值为0.0001,二f1和f2的数值大小也是0.0001附近的,那么显然不合适。另外对于f1和f2大小是10000这样的数据的时候,它也不合适,因为10000和10001也可以真伪是相等的呢。适合它的情况只是f1或者f2在1或者0附近的时候。”
这位大牛给出了这样的解决方法:
“
既然绝对误差不可以,那么自然的我们就会想到了相对误差
bool IsEqual(float a, float b, float relError ) {
return ( fabs ( (a-b)/a ) < relError ) ? true : false;
}