- 博客(1)
- 收藏
- 关注
RSS订阅转载 关于浮点数的的表数精度和有效位数:
表数精度也称表数误差。浮点数存在表数精度的根本原因是由于浮点数的不连续性造成的。我们知道，任何计算机的字长都是有限的，如果一台计算机的字长是32位，用一个字长表示一个浮点数，则这种表示方式最多能表示232个（大约43亿个）浮点数，这只是实数集中的很少一部分。因此当我们向计算机中输入一实数时，计算机只能用一个它可以表示的接近这个实数的浮点数来存放，这样在这个实数和浮点数之间就存在一个误差，这个误
2009-03-01 09:33:00
3036
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人