- 博客(2)
- 收藏
- 关注
原创 简单实用的误差解决方案 - 兜底
在平常开发中,经常会碰到计算浮点数的情况,由于计算机的浮点数不能达到完全准确,例如浮点数2.0的实际存储可能是1.99999999998。在进行无穷除法运算是也会产生误差,maybe,也可能在最后写入数据库时,由于数据库精度原因,只能存储2-4位等等…有时候需要care总数值,单独数值的微小误差不影响。这时就可以使用 兜底 来解决类似这样的问题。 场景分析1.
2016-01-26 21:08:29 461
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人