问题是这样的
当我们计算这样一个小数运算过程的时候,结果和我们想的,不太一样
那么为什么结果不是0.22 而是上面这样子呢?
首先结果与计算机的存储数据原理有关,由于计算机的物理特性导致它使用二进制运算。
而程序中的十进制小数先转换成为二进制,再进行计算。
Float和Double的小数部分在转换为二进制的时候容易产生无限循环的情况,
通常都是取无限接近于原值的近似值,所以导致出现了精度丢失的情况。
那是如何出现无限循环的情况的呢?
首先因为计算机不可能提供无限的空间让程序去存储这些二进制小数。
所以它需要规定长度, 在Java 中, 提供了两种方式: float 和double , 分别是32位和64位。
例如:有个浮点型double a = 0.1, double b =0.2,a+b=?;
0.1是一个十进制的小数,要转换为二进制;
0.1转化成二进制的算法:
0.1*2=0.2======取出整数部分0
0.2*2=0.4======取出整数部分0
0.4*2=0.8======取出整数部分0
0.8*2=1.6======取出整数部分1
0.6*2=1.2======取出整数部分1
0.2*2=0.4======取出整数部分0
0.4*2=0.8======取出整数部分0
0.8*2=1.6======取出整数部分1
0.6*2=1.2======取出整数部分1
接下来会无限循环
0.2*2=0.4======取出整数部分0
0.4*2=0.8======取出整数部分0
0.8*2=1.6======取出整数部分1
0.6*2=1.2======取出整数部分1
所以0.1转化成二进制是:0.0 0011 0011 ......
0.2转化成二进制的算法:
0.2*2=0.4======取出整数部分0
0.4*2=0.8======取出整数部分0
0.8*2=1.6======取出整数部分1
0.6*2=1.2======取出整数部分1
0.2*2=0.4======取出整数部分0
0.4*2=0.8======取出整数部分0
0.8*2=1.6======取出整数部分1
0.6*2=1.2======取出整数部分1
接下来会无限循环
0.2*2=0.4======取出整数部分0
0.4*2=0.8======取出整数部分0
0.8*2=1.6======取出整数部分1
0.6*2=1.2======取出整数部分1
所以0.2转化成二进制是:0.0 011 0011 ......
a+b=0.0 0011 0011 ......+0.0 0110 0110 ......
=0.0 1001 1001(二进制)
= 0.30000000000000004(十进制)
就像这样的为了将十进制转码为二进制的过程导致了不可避免的无限循环的出现,接着就是精度的丢失。
因此在金融、工程、科学等领域,对计算的数值精度要求较高时,为了避免精度结果计算不准确,往往采用BigDecimal+字符串的方式来解决 精度丢失的问题。