摘要 澄清一些错误或片面的认识。
下面的说法是是不严谨的,或是错误或片面的。
1. 计算机的数值计算误差或错误是由表示误差引起的
除过表示误差、舍入误差、截断误差等,还有相减相消等。
2. 运算次数越少,误差越小
减少运算次数并不一定能获得更精确的值。这个可以参考计算机的错误计算(六)。
3. 计算精度越高, 结果误差越小
提高计算精度并不总能确保计算结果更精确。只有精度或有效位数超过错数才能有“精度越高,误差越小”。 比如,在计算机的错误计算(五十一)中,20位时的结果的误差大于16位时的结果的误差。原因就是有效位数没有超过计算机的错误计算(五十二)中的错数31位。
4. 只要有效位数取得比较大, 就不存在误差
有时,不论有效位数取多少位,误差总是存在。这个可参考计算机的错误计算(十二)。