ieee754双精度浮点数转换_浮点精度(二)

之前有写过一篇浮点精度的文章，介绍了浮点数能够精确表示的整数，在整数超过一定大小后，将不能精确被表示，这次来聊一下浮点能表示的小数部分。

浮点精度

木小桓，公众号：小胖轩浮点精度

先看一段简单的代码：

public class Test {  public static void main(String[] args) {    float a1 = 0.3f;    double a2 = 0.3;    float b1 = 0.5f;    double b2 = 0.5;    float c1 = 0.7f;    double c2 = 0.7;    System.out.println(a1 > a2);    System.out.println(a1 == a2);    System.out.println(a1 < a2);    System.out.println();    System.out.println(b1 > b2);    System.out.println(b1 == b2);    System.out.println(b1 < b2);    System.out.println();    System.out.println(c1 > c2);    System.out.println(c1 == c2);    System.out.println(c1 < c2);    System.out.println();   }}

针对0.3、0.5、0.7的单精度和双精度的比较，谁会大一些呢？不妨先思考一下。

让我们来看下结果：

truefalsefalsefalsetruefalsefalsefalsetrue

转换一下结果如下:

0.3f > 0.3 0.5f = 0.50.7f < 0.7

这个结果会不会很吃惊，下面来具体分析下产生这个问题的原因。

原理分析

浮点数在计算机中的存储采用 IEEE 754标准，数据块分为符号位、指数位、尾数位，单精度和双精度各部分位数长度如下:

当一个浮点数不能被精确存储时，需要进行舍入操作，IEEE标准中列举出了几种:

• 舍入到最接近：舍入到最接近，在一样接近的情况下偶数优先，即在二进制中式以0结尾的，这种也即默认的舍入方式;
• 朝+∞方向舍入：将结果朝正无限大的方向舍入。
• 朝-∞方向舍入：将结果朝负无限大的方向舍入。
• 朝0方向舍入：将结果朝0的方向舍入。

单精度浮点数和双精度浮点数在比较时，单精度浮点数将会转变为双精度浮点数后再进行比较，再来思考一下上述例子，谁大谁小其实是要看浮点数能够精确表示，不能表示的情况下，在做尾数入舍的时候，是入还是舍。

具体看下0.3、0.5和0.7的单精度模式下二进制表示:

0.3存储: 0 01111101 00110011001100110011010计算: 0 01111101 00110011001100110011001 1001...0.5存储: 0 01111110 00000000000000000000000计算: 0 01111110 00000000000000000000000 0000...0.7存储: 0 01111110 01100110011001100110011计算: 0 01111110 01100110011001100110011 0011001...

存储表示实际在内存中值，计算表示使用数学计算，在尾数无限长的情况下的值；

可以看出，单精度场景下，按照舍入到最接近原则，0.3的最后一位被入上来了，所以比较时，单精度的0.3更大；0.5能够精确的表示出来，所以单双精度相等；0.7的最后一位则被舍去，所以比较时，双精度的0.3更大。

小结

梳理清楚了浮点数的存储，那么浮点数该怎么比较呢？一般来讲，可以设定一个比较小的误差，如0.0001，两个浮点数差值小于该误差，则认为相等，具体误差值的设定需要根据场景。