java趣谈--记录容易被忽略的java小知识--（1）浮点数的精度

1.

猜猜返回值是什么？

.

.

.

揭晓答案

false 

再看看下面的图

必须数据进行类型转换才可相等

深度探究下原因，原来是浮点数会发生精度丢失，在计算机内部，数据都是由二进制保存的，无法精确的表达我们所需要的数。

举个例子，0.09f，它的存储结果是这样的: 0 01111011 01110000101000111101100

你可以看到它分成了3段： 
第一段符号位(s) : 0 正数， 1 负数 ， 其实更准确的表达是 (-1) ^0 
第二段是指数位(e)：01111011 ，对应的10进制是 123 

第三段是尾数位(M)

计算公式 ：(-1)^s * M * 2^e 

浮点数遵循的是IEEE754 表示法，s(符号) 是对的，但是 e(指数)和 M（尾数） 需要变换：

对于指数e ， 一共有8位， 这是个有符号数， 特别是按照IEEE754 规范， 如果不是0或者255， 那就需要减去一个叫偏置量的值，对于float 是127 
所以 E = e - 127 = 123-127 = -4 
对于尾数M ，如果阶码不是0或者255，其实隐藏了一个小数点左边的一个 1 。 

即 M = 1.01110000101000111101100

现在写出来就是: 
1.01110000101000111101100 * 2^-4 
=0.000101110000101000111101100 
= 1/16 + 1/64 + 1/128+ 1/256 + …. 
= 0.0900000035762786865234375 

这就是0.09的内部表示， 很明显比0.09更大一些， 是不精确的！

更详细的解释，可以看这篇  浮点型数据精度不准确的探究（参考了部分文章内容）