一个浮不精确到7位小数

它是最容易想到的depsilon百分比。一个depsilon 0.01意味着dx和dy必须在为了彼此的1%被认为是相同的。在右侧的< =操作符,我们乘depsilon工厂(DX)找出最大距离的两个数字可以分开,仍被视为平等的。例如,如果工厂(DX)值为1000,和depsilon是0.01,最大距离的两个数是10。

最后,我们之间的距离比较dx和dy的最大距离,他们仍然可以被认为是“足够接近”。如果他们足够接近,该函数将返回True。否则,则返回false。

为depsilon值可以调整到什么是最适合的程序。通常,程序员会使isequal()depsilon三分之一参数就可以在一个电话呼叫的基础上定义的。

然而,有时需要做的浮点数的比较是不可避免的。在这种情况下,小于和大于运算符(<,>和< <,=,=)通常用于浮点值的正常。运营商将产生正确的结果,大部分的时间,唯一可能的失败时,两个操作数几乎是相同的。由于这些运营商往往是一个错误的结果,通常只有轻微的后果。

相等运算符更麻烦,因为小的舍入误差使它几乎没用。因此,使用= =运算符对浮点数不建议。做浮点平等最常见的方法是使用一个函数,计算这两个值是如何彼此靠近。如果这两个数字是“足够接近”,那么我们称他们平等的。


浮精确到大约7位有效数字。一个重要的数字是任意数字,不是一个占位符0,包括在小数点左边的。

例如,。0095有两个占位符零点,所以只有2位数。34.90有4个重要人物。

有两种类型的我们需要警惕的浮点值的误差:舍入误差和精度误差。

舍入误差可以任意长度的数字发生,因为一些数字的二进制有无限的表示(例如0.1),并表示将被截断。舍入误差通常会使你的答案错了0.000001,或一些小的数目一样。


  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值