计算机的错误计算（八十）

zaim1

于 2024-09-02 00:00:00 发布

阅读量274

点赞数 8

文章标签： java python c++ c语言 c# 深度学习机器学习

本文链接：https://blog.csdn.net/zaim1/article/details/141474394

版权

摘要展示函数 atanPi(x) = atan(x)/π 的错误计算。

由计算机的错误计算（七十八）知，函数 atanPi(x) = atan(x)/π 也列在IEEE 754-2019内。

例1. 计算atanPi(x) = atan(x)/π , 其中 x = 0.9999999999e5 .

不妨用Java计算：

import java.lang.Math;
import java.text.DecimalFormat;

public class atanPi {
    public static void main(String[] args) {
        double x = 0.9999999999e5;
        double result = Math.atan(x) / Math.PI;

        DecimalFormat decimalFormat = new DecimalFormat("#0.0000000000000000");

        String formattedResult = decimalFormat.format(result);
        System.out.println(formattedResult);
    }
}

则运行后输出为 0.4999968169011380 .

然而，16位的正确值是 0.4999968169011379（ISRealsoft 提供）。其中，2位红色数字是错误数字。