x=±0.a1 a2 a3...✖10^k (a1≠0), 若|x-x*|≤0.5✖10^(k-n),则x*为x的n位有效数字的近似值。
例如 x*=e≈2.71828
解：x=e=2.7182818=0.27182818✖10^1
x-x*=0.0000018=0.18✖10^(-5)
所以k-n=-5,又k=1,所以n=6.所以x*是e的6位有效数字。
定理：若x*是x的n位有效数字的近似值，则|(x-x*)/x*|≤(1/2a1)✖10^(1-n)
本文介绍了一种数值计算中的精确度概念，即如果x*是x的n位有效数字的近似值，其误差满足|x-x*|/x*≤(1/2a1)×10^(1-n)。以e的近似值为例，展示了如何确定有效数字的数量。这个定理在计算机科学和工程中处理浮点数精度问题时具有重要意义。
2万+
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
