在上一篇《浮点数能够精确表示的整数的范围》中,我们知道了,对于float,实际有效的尾数是23位,对于double,实际有效的位数是53位。所以这里我们可以得到float的十进制表示有效数字个数为:
这里最小的n为7,对于double,最小的n为15。
有时我们在代码中可能会看到比较浮点数时,会使用一个epsilon,而这个epsilon = 1e-6,可能就是因为当浮点数绝对值 >= 1时,小数点后有效位数为6位。
EDIT: (2012/7/7)
上面的说法可能有些有些模糊,这里我再试图说明一下。
对于IEEE754格式,具体的尾数的有效数字个数分2种,一种是规格化数的情况,另一种是非规格化数的情况。非规格化数的尾数的有效位数是23,而规格化数多一位,是24。对于绝对值>=1的数,是由规格化数来表示的,也就是这里由24位,那么实际的十进制有效位数就是8。当然绝对值<1的数,也可能是由规格化数来表示,所以此时小数点后应该最多是8位。
Reference: