- 博客(1)
- 资源 (3)
- 收藏
- 关注
RSS订阅转载 浮点型失去精度的解释
从原理上来讲，任何一门语言对于浮点数的计算都是不精确的。因为现在的Computer都是基于二进制数来存储计算的。 例如计算8＋3时，Computer会转换为二进制的加法1000＋11＝1011，然后再转换为十进制数为11。这种算法对于整数来说是不会产生误差的（如果不超过计算范围）；而对于浮点数计算有时就会产生误差。 因为有的浮点数转换成为二进制时是一个无穷循环小数。例如十进制的0.4，转换成为
2017-02-21 17:06:07
641
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人