- 博客(1)
- 资源 (1)
- 收藏
- 关注
原创 数值计算误差
补充题在MATLAB上执行>> 5.1-5-0.1和>> 1.5-1-0.5,给出执行结果,并简要分析一下产生现象的原因代码:>> x1=5.1-5-0.1x1 =-3.608224830031759e-16>> x2=1.5-1-0.5x12=0原因: 浮点数表示时数字时位数有限,以双精度浮点数为例,共64位。 对于5.1,符号位一位,指数位11,整数部分占3位,小数部分0.1不能
2016-05-11 12:12:31
3605
1
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人