计算机的错误计算(五十三)

摘要  澄清一些错误或片面的认识。

       下面的说法是是不严谨的,或是错误或片面的。

        1.  计算机的数值计算误差或错误是由表示误差引起的

       除过表示误差、舍入误差、截断误差等,还有相减相消等。

        2.  运算次数越少,误差越小

       减少运算次数并不一定能获得更精确的值。这个可以参考计算机的错误计算(六)

        3.  计算精度越高, 结果误差越小

       提高计算精度并不总能确保计算结果更精确。只有精度或有效位数超过错数才能有“精度越高,误差越小”。 比如,在计算机的错误计算(五十一)中,20位时的结果的误差大于16位时的结果的误差。原因就是有效位数没有超过计算机的错误计算(五十二)中的错数31位。

        4.  只要有效位数取得比较大, 就不存在误差

       有时,不论有效位数取多少位,误差总是存在。这个可参考计算机的错误计算(十二)

  • 6
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值