摘要 展示双曲正割函数 sech(x)的计算精度问题。
例1. 计算 sech(320.97) .
不妨在Excel单元格中计算,则有:
然后在Python中用mpmath库中函数计算:
则二者几乎有相同的输出。
事实上,正确值为 0.8045075778480535e-139 . 这样,二者均有3位错误数字,错误率均为 3/16 = 18.75% .
摘要 展示双曲正割函数 sech(x)的计算精度问题。
例1. 计算 sech(320.97) .
不妨在Excel单元格中计算,则有:
然后在Python中用mpmath库中函数计算:
则二者几乎有相同的输出。
事实上,正确值为 0.8045075778480535e-139 . 这样,二者均有3位错误数字,错误率均为 3/16 = 18.75% .