计算机的错误计算(三十二)

摘要  在计算机的错误计算(二十八)(三十 一)中,我们探讨了  Visual Studio 对 6个随机exp(x)函数的计算精度问题。根据网友的反馈,本节将展示 Python 对它们的输出:结果几乎与 Visual Studio 运行产生的输出结果完全一致。因此,输出中的错误数字个数也完全相同。于是,无论是Python还是Visual Studio,其exp(x) 函数值中均有约 x 的整数位数位错误数字。

       在计算机的错误计算(三十一)中,介绍了含有 20位有效数字的6个 exp(x)函数值的正确结果与 Visual Studio 2010 的运行结果 :

       下面是 Windows 10 下 Python 3.12.4 中的计算:

       从上图可知,除过第2个计算结果与  Visual Studio 的结果不同外(最后1位数字分别为 ‘6’与‘7’),其余 16位的结果完全一致。因此,Python 给出的结果也分别有 0、1、2、1、3、3位错误数字。

       这样,无论是 Python 还是 Visual Studio,都一样:exp(x) 函数中有约 x 的整数位数位错误数字。再准确一点,均遵守计算机的错误计算(二十七)中规则:j\approx k+m_1\,.  其中 3个符号依次代表函数值含有的错误数字个数、自变量含有的错误数字个数以及自变量的整数位数。

  • 8
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值