- 博客(1)
- 收藏
- 关注
原创 浮点数的有效数字位数
过去有一种很普遍的说法是单精度浮点数的有效数字是6到7位。同时也有一个很普遍的问题就是:“6到7位是什么意思?到底是6位还是7位?”。现在似乎主流认知已经变成了单精度浮点数的有效数字就是7位。事实究竟是怎么样的?先说结论单精度浮点数可以保证7位10进制有效数字。如果一个数字用10进制表示时有效数字位数大于等于7位,那么用单精度浮点数记录的话,能确保至少正确记录前7位。为什么说“至少”?比如,...
2019-01-28 01:49:54
14852
6
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人