摘要 展示函数 atanPi(x) = atan(x)/π 的错误计算。
由计算机的错误计算(七十八)知,函数 atanPi(x) = atan(x)/π 也列在IEEE 754-2019内。
例1. 计算atanPi(x) = atan(x)/π , 其中 x = 0.9999999999e5 .
不妨用Java计算:
import java.lang.Math;
import java.text.DecimalFormat;
public class atanPi {
public static void main(String[] args) {
double x = 0.9999999999e5;
double result = Math.atan(x) / Math.PI;
DecimalFormat decimalFormat = new DecimalFormat("#0.0000000000000000");
String formattedResult = decimalFormat.format(result);
System.out.println(formattedResult);
}
}
则运行后输出为 0.4999968169011380 .
然而,16位的正确值是 0.4999968169011379(ISRealsoft 提供)。其中,2位红色数字是错误数字。