计算机的错误计算(十二)

摘要  计算机是人造的。要了解计算机的错误计算,需要先清楚人类的错误计算。本节介绍人类的固定位数的计算模式以及由此带来的错误计算。

       固定位数的计算模式

       假设要计算一个表达式,那么第一步要设置计算时的有效位数,然后所有运算均在该位数下执行。即所有中间运算的结果与最终结果均保留这么多位数.
       比如,计算 1234567890+3344556677 的值。若结果保留 5 位有效数字, 则计算过程与结果如下:

1234567890+3344556677\\\approx0.12346\times10^{10}+0.33446\times10^{10}\\=0.45792\times10^{10}.

       固定位数模式的缺陷

       固定位数的这种计算模式由于没有考虑中间运算的舍入或截断误差,所以结果有时会不稳定.。比如, 计算(\pi是圆周率)

10^{20}+\pi-10^{20},

结果保留 5 位有效数字,则有

10^{20}+\pi-10^{20}\,\,\approx\,\,10^{20}+0.31416\times10-10^{20}\,\,\approx\,\,10^{20}-10^{20}\,\,=\,\,0.


这样, 1 位正确有效数字也没有出现。显然, 有效位数只有超过 20 位, 结果中才会出现正确有效数字。但是,即使有效位数取得比较大,错误数字仍然存在。

       不妨取 30 位有效数字, 则计算过程与结果如下:

10^{20}+\pi-10^{20}\\ \approx10^{20}+0.\underbrace{314159265358979323846264338328}_{30\,\,digits}\times10-10^{20} \\ \approx 0.1\underbrace{0000000000000000000}_{19\,\, zeros}\underbrace{3141592654}_{Only \,\,10\,\, left}\times10^{21}-10^{20} \\ =0.\underbrace{3141592654}_{10\,\,digits \,\,correct}\underbrace{00000000000000000000}_{20\,\, digits \,\,incorrect}\times10.

这样,结果中含有10位正确数字,20位错误数字。更为甚者,即使有效位数取更多位数,比如1000位,结果中也仍然含有20位错误数字。

       总结:人类的计算模式是固定位数的计算模式。它没有考虑舍入误差,所以基于该模式的计算会出错。

  • 21
    点赞
  • 4
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值