Matlab中避免避免浮点算术运算出现常见问题

避免浮点算术运算出现常见问题
MATLAB 中几乎所有运算都是通过符合 IEEE 754 标准的双精度算术运算执行的。由于计算机仅将数值表示为有限精度(双精度需要 52 个尾数位),因此计算有时会生成数学上的非预期结果。务必注意,这些结果并非 MATLAB 中的错误。
使用以下示例来帮助您确定这些情况:
示例 1 - 舍入或您所获得的不是所期望的
十进制数 4/3 不能精确表示为二进制分数。为此,以下计算的结果不是零,而是显示数量 eps。
e = 1 - 3*(4/3 - 1)
e =
2.2204e-16
同样,0.1 也不能精确表示为二进制数。因此,您会发现以下非预期行为:
a = 0.0;
for i = 1:10
a = a + 0.1;
end
a == 1
ans =
logical
0
请注意,计算中运算的顺序会很重要:
b = 1e-16 + 1 - 1e-16;
c = 1e-16 - 1e-16 + 1;
b == c
ans =
logical
0
浮点数之间存在间隔。当数值变得越大时,间隔也会变得越大,如以下所示:
(2^53 + 1) - 2^53
ans =
0
由于 pi 实际上不是 π,因此 sin(pi) 不精确为零并不足为奇:
sin(pi)
ans =
1.224646799147353e-16
示例 2 - 具有灾难性后果的取消操作
对几乎相等的操

  • 0
    点赞
  • 4
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值