关于精度问题（实数计算）

关于精度问题

在计算几何的计算中，精度问题是一个很常见的问题。

这是由于计算机存储浮点数时保留的精度有限而产生的。

即使用两个实型变量来存储同一个数字，都有可能产生误差。

因此在判定实型变量大小关系时，若直接采用=,>或<进行比较，很有可能出错。

一般常见的解决方法是设定一个极小量epsilon(一般写作eps)来辅助比较。

比如判定两个浮点数是否相等时，我们检查两个浮点数之间的差值。若差值小于eps时，我们就认为这两个浮点数相等：

equals(double x, double y):
    eps = 1e-6 // 根据题目要求的精度范围来设定eps
    If (abs(x - y) < eps) Then
        Return True
    End If
    Return false

同样，其它比较符号也需要做对应的修改，具体可以参考下表：

原符号       修正
a == b      abs(a-b) < eps
a != b      abs(a-b) > eps
a > b       a-b > eps
a >= b      a-b > -eps
a < b       a-b < -eps
a <= b      a-b < eps

注：摘自hihocder的一篇题解 http://hihocoder.com/discuss/question/3573

转载于:https://www.cnblogs.com/yspworld/p/5773637.html