避免浮点算术运算出现常见问题
MATLAB 中几乎所有运算都是通过符合 IEEE 754 标准的双精度算术运算执行的。由于计算机仅将数值表示为有限精度(双精度需要 52 个尾数位),因此计算有时会生成数学上的非预期结果。务必注意,这些结果并非 MATLAB 中的错误。
使用以下示例来帮助您确定这些情况:
示例 1 - 舍入或您所获得的不是所期望的
十进制数 4/3 不能精确表示为二进制分数。为此,以下计算的结果不是零,而是显示数量 eps。
e = 1 - 3*(4/3 - 1)
e =
2.2204e-16
同样,0.1 也不能精确表示为二进制数。因此,您会发现以下非预期行为:
a = 0.0;
for i = 1:10
a = a + 0.1;
end
a == 1
ans =
logical
0
请注意,计算中运算的顺序会很重要:
b = 1e-16 + 1 - 1e-16;
c = 1e-16 - 1e-16 + 1;
b == c
ans =
logical
0
浮点数之间存在间隔。当数值变得越大时,间隔也会变得越大,如以下所示:
(2^53 + 1) - 2^53
ans =
0
由于 pi 实际上不是 π,因此 sin(pi) 不精确为零并不足为奇:
sin(pi)
ans =
1.224646799147353e-16
示例 2 - 具有灾难性后果的取消操作
对几乎相等的操
Matlab中避免避免浮点算术运算出现常见问题
最新推荐文章于 2024-07-13 22:10:29 发布