计算机的错误计算（九十四）

摘要  探讨  的计算精度问题。

        正如其它许多函数或运算一样，以2为底的对数运算，也包含在 IEEE 754-2019 的列表中[1]。

例1.  已知   计算 

       不妨用Go代码计算： 

package main

import (
    "fmt"
    "math"
)

func main() {
    x := 0.999999999543
    log2Value := math.Log2(x)
    fmt.Printf("%v", log2Value)
}

则运行后输出为 -6.593116243200681e-10 .

       若用Python库函数计算，则几乎有同样的输出：

       然而，正确值是 -0.6593116338369090e-9（ISRealsoft 提供）。这样，二者均有9位错误数字。错误率均为 9/16 = 56.25% .

参考文献

[1] 754-2019 - IEEE Standard for Floating-Point Arithmetic | IEEE Standard | IEEE Xplore