bluewanderer的博客

原创 浮点数的有效数字位数

过去有一种很普遍的说法是单精度浮点数的有效数字是6到7位。同时也有一个很普遍的问题就是：“6到7位是什么意思？到底是6位还是7位？”。现在似乎主流认知已经变成了单精度浮点数的有效数字就是7位。事实究竟是怎么样的？先说结论单精度浮点数可以保证7位10进制有效数字。如果一个数字用10进制表示时有效数字位数大于等于7位，那么用单精度浮点数记录的话，能确保至少正确记录前7位。为什么说“至少”？比如，...