我们都知道Java中的浮点数计算并不精确,需要用BIgDecimal进行精确计算。但是为什么是不精确的?为什么不精确还要使用呢?
在计算机的世界中,计算机的数字的存储和运算都是通过二进制进行的,对于十进制数来说,要转换为二进制整数,就要采用“除二取余,逆序排列”(小数采用“乘二取整,顺序排列”)的方法
具体做法是:
- 用2整除十进制整数,可以得到一个商和余数;
- 再用2去除商,又会得到一个商和余数,如此进行,直到商为小于1时为止
- 然后把先得到的余数作为二进制数的低位有效位,后得到的余数作为二进制数的高位有效位,依次排列起来
如果我们想要把127转换成二进制,做法如下:
而十进制小数转换成二进制小数,又该如何计算呢?
十进制小数转换成二进制小数采用”乘2取整,顺序排列”法。
具体做法是:
- 用2乘十进制小数,可以得到积
- 将积的整数部分取出,再用2乘余下的小数部分,又得到一个积
- 再将积的整数部分取出,如此进行,直到积中的小数部分为零,此时0或1为二进制的最后一位。或者达到所要求的精度为止。
尝试将0.1转成二进制:
我们发现,0.1的二进制表示中出现了无限循环的情况,也就是(0.1)10 = (0.000110011001100…)2
这种情况,计算机就没办法用二进制精确的表示0.1了。
所以,为了解决部分小数无法使用二进制精确表示的问题,于是就有了IEEE 754规范。
IEEE二进制浮点数算术标准(IEEE 754)是20世纪80年代以来最广泛使用的浮点数运算标准,为许多CPU与浮点运算器所采用。