python精度丢失_double类型运算精度丢失

public class Test {

public static void main(String[] args) {

System.out.print("直接输出2.4：");

System.out.println(2.4);

System.out.print("2.4/0.1：");

System.out.println(2.4/0.1);

System.out.print("(2.4-0.2)/0.1：");

System.out.println((2.4-0.2)/0.1);

System.out.print("直接输出2.2：");

System.out.println(2.2);

System.out.print("2.2/0.1：");

System.out.println(2.2/0.1);

System.out.print("(2.2+0.2)/0.1：");

System.out.println((2.2+0.2)/0.1);

System.out.print("2.2+0.2：");

System.out.println(2.2+0.2);

}

}

输出结果：

直接输出2.4：2.4

2.4/0.1：23.999999999999996

(2.4-0.2)/0.1：21.999999999999996

直接输出2.2：2.2

2.2/0.1：22.0

(2.2+0.2)/0.1：24.000000000000004

2.2+0.2：2.4000000000000004

我们从源代码和输出的结果进行分析。首先从结果可以知道直接输出浮点数2.2和2.4没有问题，一切正常。但是2.4/0.1我们期望应该是输出24，却输出了23.999999999999996；同样的，(2.4-0.2)/0.1期望输出是22，实际输出是21.999999999999996，(2.2+0.2)/0.1也是同样的情况。这些现象说明我们得到了非期望值，一个“错误的结果”，也就是说，在计算过程中发生了精度丢失。

前面说过，我在python中也有这样的问题，所以这种现象并不针对某种语言，而是计算机的实现造成的。众所周知，计算机只能识别二进制，所以我们的一切数据最后都转化为二进制来实现。我们发现，直接输出2.4和2.2并没有任何问题，但是一旦让其参与运算就会出错，因此精度丢失是发生在”运算“过程中的。

浮点数由两部分组成，指数和尾数。如果在转换过程中进行了运算，那么所得结果将不可知，不能保证二进制能正好准确转换为十进制。其原理参见其他参考书。

如何处理这种情况呢，可以用BigDecimal，具体使用参见JavaAPI。

分享到：

2011-04-04 15:45

浏览 5084

评论