摘要 计算机的错误计算(七十)探讨了大数的正割函数的错误计算。本节讨论另外一类数值: 附近数 的正割函数的计算精度问题。
例1. 已知 计算
若用 在 Python下编程计算,则有
若在 Excel 中计算,则有:
事实上,16位有效数字的正确结果是 -0.2608541928526347e8(ISRealsoft 提供)。两者的错误数字占比均为 10/16 = 62.5% .
摘要 计算机的错误计算(七十)探讨了大数的正割函数的错误计算。本节讨论另外一类数值: 附近数 的正割函数的计算精度问题。
例1. 已知 计算
若用 在 Python下编程计算,则有
若在 Excel 中计算,则有:
事实上,16位有效数字的正确结果是 -0.2608541928526347e8(ISRealsoft 提供)。两者的错误数字占比均为 10/16 = 62.5% .