浮点数的相等比较

浮点数的相等比较

今天群里边一哥们儿——哦,确切地说,应该是一姊妹——问到了Python中怎样判断一个浮点数的小数部分是不是0,本意是要找和C语言中的fmod函数相同功能的函数的,在Python中在math模块中有这个函数,可是却挑起了一个浮点数精度的话题。

突然想到偶们学习C语言的 时候 老师讲到过,整数的相等比较可以直接使用==来判断,但是浮点数的比较不能简单的用==来比较。那怎么对浮点数是否相等进行判断呢?

Google了一番,又找到了那个经典的方法:利用差值的绝对值的精度来判断。

具体就是:f1f2是两个浮点数,precision是我们自己设置的精度,比如1e-6

则可以用 fabs(f1-f2)<=precision 来判断f1f2是否相等。

如果要求更高的精度,则把precision定得更小就行了。

 

 

网上有一位大牛讲,这个方法还存在问题:

“首先,precision是一个绝对的数据,也就是误差分析当中所说的绝对误差,使用一个固定的数值,对于float类型可以表达的整个数域来说是不可以的。比如precision取值为0.0001,二f1f2的数值大小也是0.0001附近的,那么显然不合适。另外对于f1f2大小是10000这样的数据的时候,它也不合适,因为1000010001也可以真伪是相等的呢。适合它的情况只是f1或者f21或者0附近的时候。”

 

这位大牛给出了这样的解决方法:

既然绝对误差不可以,那么自然的我们就会想到了相对误差

bool IsEqual(float a, float b, float relError ) {

       return ( fabs ( (a-b)/a ) < relError ) ? true : false;

}

  • 0
    点赞
  • 8
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值