浮点数的相等比较

本文讨论了在Python中如何判断浮点数的小数部分是否为0,进而引发了浮点数相等比较的话题。传统的误差比较方法存在局限,文章引用了一位专家的观点,提出使用绝对误差和相对误差相结合的方式来提高比较的准确性。此外,还介绍了一个适用于IEEE 32位浮点数结构的高效比较算法,该算法通过转换浮点数为整数进行比较,考虑了正负数的特殊情况。
摘要由CSDN通过智能技术生成

浮点数的相等比较

今天群里边一哥们儿——哦,确切地说,应该是一姊妹——问到了Python中怎样判断一个浮点数的小数部分是不是0,本意是要找和C语言中的fmod函数相同功能的函数的,在Python中在math模块中有这个函数,可是却挑起了一个浮点数精度的话题。

突然想到偶们学习C语言的 时候 老师讲到过,整数的相等比较可以直接使用==来判断,但是浮点数的比较不能简单的用==来比较。那怎么对浮点数是否相等进行判断呢?

Google了一番,又找到了那个经典的方法:利用差值的绝对值的精度来判断。

具体就是:f1f2是两个浮点数,precision是我们自己设置的精度,比如1e-6

则可以用 fabs(f1-f2)<=precision 来判断f1f2是否相等。

如果要求更高的精度,则把precision定得更小就行了。

 

 

网上有一位大牛讲,这个方法还存在问题:

“首先,precision是一个绝对的数据,也就是误差分析当中所说的绝对误差,使用一个固定的数值,对于float类型可以表达的整个数域来说是不可以的。比如precision取值为0.0001,二f1f2的数值大小也是0.0001附近的,那么显然不合适。另外对于f1f2大小是10000这样的数据的时候,它也不合适,因为1000010001也可以真伪是相等的呢。适合它的情况只是f1或者f21或者0附近的时候。”

 

这位大牛给出了这样的解决方法:

既然绝对误差不可以,那么自然的我们就会想到了相对误差

bool IsEqual(float a, float b, float relError ) {

       return ( fabs ( (a-b)/a ) < relError ) ? true : false;

}

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值