java单精度浮点数_java 浮点数为什么精度会丢失

最新推荐文章于 2024-05-15 19:05:40 发布

咪爷

最新推荐文章于 2024-05-15 19:05:40 发布

阅读量173

点赞数

文章标签： java单精度浮点数

本文链接：https://blog.csdn.net/weixin_28235513/article/details/114099951

版权

展开全部

并不是java的浮点数精度会丢失，而是所有用二进制存e69da5e6ba903231313335323631343130323136353331333365643662储中的浮点数都可能会精度丢失(部分特殊的小数数值可以精确表示)，所以计算机中存储的浮点数都存在精度丢失的风险，不过一边这个丢失的精度对我们正常的使用不会构成影响。

小数在转换为二进制时并不一定能用一个精确的二进制表示，大多数时候都是取的一个近似值，这就造成了精度的丢失。如果再用这个二进制进行计算，明显计算结果的精度会进一步丢失。

举个简单的例子把0.1用二进制表示(小数与二进制转换方法)(1) 0.1 x 2 = 0.2 取整数位 0 得 0.0

(2) 0.2 x 2 = 0.4 取整数位 0 得 0.00

(3) 0.4 x 2 = 0.8 取整数位 0 得 0.000

(4) 0.8 x 2 = 1.6 取整数位 1 得 0.0001

(5) 0.6 x 2 = 0.2 取整数位 1 得 0.00011

(6) 0.2 x 2 = 0.4 取整数位 0 得 0.000110

(7) 0.4 x 2 = 0.8 取整数位 0 得 0.0001100

(8) 0.8 x 2 = 1.6 取整数位 1 得 0.00011001

(9) 0.6 x 2 = 1.2 取整数位 1 得 0.000110011

(n) ...

得到一个无限循环的二进制小数 0.000110011…，没办法用一个精确的二进制表示0.1。而且计算机中存储一个浮点数所用的位数也是有限的，所以只能选择在某一个精度进行保存。