前两天看到了一道面试题,觉得很有意思,首先看题的内容:
public void test1() {
float a=1.0f-0.9f;
float b=0.9f-0.8f;
if (a == b){
System.out.println("true");
}else {
System.out.println("false");
}
}
这道题我乍一看,觉得没什么难度,结果肯定是true,但是将代码粘到idea时,发现出了一条警告,说if里的内容结果永远为false,这就很纳闷了。于是我将a,b打印出来,结果如下:
false
0.100000024
0.099999964
看到这里我心里已经明白了,这是发生了精度丢失问题。于是我搜索了一波,发现了原因。原来在计算机中,浮点数都是以二进制数的形式存储的,这样就会产生一个问题,有许多的小数无法被准确的表示。如同十进制无法准确表示 1/3 那样,二进制也有许多无法精确表示的数,计算机只能进行舍入,取近似值来表示。
那既然float无法有精度问题,那么它的包装类Float有没有这样的问题呢:
public void test2(){
Float a=1.0f-0.9f;
Float b=0.9f-0.8f;
System.out.println(a);
System.out.println(b);
}
运行结果:
0.100000024
0.099999964
结果与test1相同,可见Float同样没能解决精度问题,从Float的源码可以看出,它的equals()方法最终仍是使用“==”做比较,可见并没有进行精度的处理。
float是这样,那同为浮点数的double也不例外:
public void testn3(){
Double a=1.0-0.9;
System.out.println(a);
}
运行结果:
0.09999999999999998
可以看到double同样存在精度问题,但是double是双精度,float是单精度,它们的有效数位不同,因此结果也不同。
那么问题就来了,假如以后需要做一些金融方面的项目,比如算汇率等等,这时候该怎么办?为了防止这种情况,Java就提供了BigDecimal()这个类,来解决精度问题:
public void test4(){
BigDecimal decimal = new BigDecimal("0.9");
BigDecimal decimal1 = new BigDecimal("0.8");
System.out.println(decimal);
System.out.println(decimal1);
System.out.println(decimal.subtract(decimal1).doubleValue());
}
运行结果:
0.9
0.8
0.1
这个类需要传入的参数是String类型的,需要传入的值是多少,就以字符串的形式填进去,可以看到并没有发生精度问题。通过调用它的subtract()方法做个减法,得出的结果是0.1,也没有出现精度问题。
但是如果直接向BigDecimal中传入一个double类型的值,结果会依然有精度问题:
public void test5(){
double a=1.0-0.9;
BigDecimal decimal = new BigDecimal(a);
System.out.println(decimal);
}
运行结果:
0.09999999999999997779553950749686919152736663818359375