- 博客(1)
- 收藏
- 关注
RSS订阅转载 http://hxraid.iteye.com/blog/504293
问题提出：12.0f-11.9f=0.10000038，"减不尽"为什么？ 现在我们就详细剖析一下浮点型运算为什么会造成精度丢失？ 1、小数的二进制表示问题 首先我们要搞清楚下面两个问题： (1) 十进制整数如何转化为二进制数 算法很简单。举个例子，11表示成二进制数： 11/2=5
2017-10-17 08:45:59
504
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人