浮点数的表示和精度

如果a>0,那么1+a一定大于1吗?在数学上,答案是肯定的。但在计算机上,答案就与a的大小和浮点数的精度有关了。在matalb上,可以作以下计算:>> a=1/2^52a = 2.220446049250313e-016>> 1+a>1ans = 1>> a=1/2^53a = 1.110223024625157e-016>>
发布了60 篇原创文章 · 获赞 1 · 访问量 68万+
展开阅读全文

没有更多推荐了,返回首页

©️2019 CSDN 皮肤主题: 大白 设计师: CSDN官方博客

分享到微信朋友圈

×

扫一扫,手机浏览