摘要 讨论用 Go语言实现的 函数的计算精度问题。
由计算机的错误计算(五十五)知,国际 IEEE 754 标准中, 函数具有定义域 . 那么,在常规编程模式下用 Go语言实现这个函数,其输出的精度如何?
例1. 已知 用 Go语言编程计算
不妨用下列代码计算:
package main
import (
"fmt"
"math"
)
func main() {
x := 1234567890987.999
tanValue := math.Tan(math.Pi * x)
fmt.Printf("%v", tanValue)
}
则输出为 -0.0033182039864617023 .
事实上,16位的正确结果为 -0.3141602989056156e-2 (由 ISReal 软件提供)。因此,上述代码只输出 1 位正确数字。