- 博客(1)
- 资源 (2)
- 收藏
- 关注
转载 浮点数比较分析与解释
在数学运算当中经常会涉及到判断两个数是否相等的情况对于整数很好处理 A==B这样的一个语句就可以解决全部的问题但是对于浮点数是不同的首先,浮点数在计算机当中的二进制表达方式就决定了大多数浮点数都是无法精确的表达的现在的计算机大部分都是数字计算机,不是模拟机,数字机的离散化的数据表示方法自然无法精确表达大部分的数据量的。其次计算机浮点数的精度在单精度float类型下,只有
2013-12-20 16:33:37 758
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人