浮点数与0比较大小

判断浮点数与0的大小关系时,一般不直接让浮点数与“0”比较。

因为浮点数在计算机中存储时存在误差,如0本身可能会被存为0.9999976(随便编的一个数据,可能不太准确,理解意思就可以了,就像你,在用计算机算1/3*3的时候,最终结果可能是0.999999一样),故浮点数直接与0比较大小时,有可能存在误差。基于此点,我们一般让浮点数与一个很接近于0的数来做比较,如1e-6(亲测有效)。

可是为什么是1e-6呢?1e是表示1*e吗?很显然不是。
在经过一波问答过后,CSDN上友好的朋友给了我回答。
1e-6其实是科学技术法的一种表达方式,表示10的-6次幂,即0.000001,在以1e-6为误差范围内比较浮点数与0的大小,能够一定程度上消除计算机浮点数精度产生的问题。

  • 1
    点赞
  • 10
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值