对这个问题相信都不陌生:
无论你使用的是什么编程语言,在使用浮点型数据进行精确计算时,都有可能出现精度损失问题。
来看下面的例子:
// 这是一个利用浮点型数据进行精确计算时结果出错的例子,使用Java编写,有所省略。
<span style="font-family:Microsoft YaHei;font-size:14px;"><span style="white-space:pre"> </span>Double a = (1.2 - 0.4) / 0.1;
<span style="white-space:pre"> </span>System.out.println(a);</span>
如果你认为这个程序的输出结果是“8”的话,那你就错了。实际上,程序的输出结果是“7.999999999999999”。
好,问题来了。到底是哪里出了错?
浮点型数据进行精确计算时,该类问题并不少见。我们姑且称其为“精度丢失”吧。大家可以试着改一下上面的程序,你会发现一些有趣的现象:
1、如果直接使用一个数字代替括号里的表达式,如“0.8 / 0.1”或者“1.1 /0.1”,那么似乎,注意只是似乎不会出现问题;
2、我们可能会做第二个测试,就是对比“0.8 / 1.1”和“(1.2 - 0.4) / 1.1”的结果,没错,我就是这样做的。那么你会发现,前者的结果是“0.7272727272727273”(四舍五入后的结果),而后者的结果是 “0.7272727272727272”(没有进行四舍五入)。可以推测,经过一次计算后,精度丢失了;
3、很好,我觉得我们已经很接近真相了,但是接下来的第三个测试或许会让你泄气,我是这样做的:对比“(2.4 - 0.1) /0.1”、“(1.2 - 0.1) / 0.1”以及“(1.1 - 0.1) / 0.1”的结果,第一个是“22.999999999999996”,第二个是“10.999999999999998”,第三个是“10.0”。似乎完 全推翻了我们的想法;