android不在坑三:Float丢失精度
前言:
测试:你这个平均数,怎么一下正确一下错误,你让我怎么测啊!
面对测试的怒吼,赶快灰溜溜的检查代码去了。没错啊,最后测试for循环了几次才发现,日!怎么会这样,这不是坑么
后面开发商城的时候,基本全用String来,用BigDecimal进行精确运算
当然看看测试,float是怎么丢失精度的
public class Test_1 {
public static void main(String[] args) {
System.out.println(0.06+0.01);
System.out.println(1.0-0.42);
System.out.println(4.015*100);
System.out.println(303.1/1000);
}
}
运行结果如下。
0.06999999999999999
0.5800000000000001
401.49999999999994
0.30310000000000004
你认为你看错了,但结果却是是这样的。问题在哪里呢?原因在于我们的计算机是二进制的。浮点数没有办法是用二进制进行精确表示。我们的CPU表示浮点数由两个部分组成:指数和尾数,这样的表示方法一般都会失去一定的精确度,有些浮点数运算也会产生一定的误差。如:2.4的二进制表示并非就是精确的2.4。反而最为接近的二进制表示是 2.3999999999999999。浮点数的值实际上