Tips on 浮点数精度

1、误差量eps

eps缩写自epsilon，表示一个小量，但这个小量又要确保远大于浮点运算结果的不确定量。eps最常见的取值是1e-8左右。引入eps后，我们判断两浮点数a、b相等的方式如下:

定义三出口函数如下:
int sgn(double a)
{return a < -eps ? -1 : a < eps ? 0 : 1;}

则各种判断大小的运算都应做如下修正:

传统意义	修正写法1	修正写法2
a == b	sgn(a - b) == 0	fabs(a – b) < eps
a != b	sgn(a - b) != 0	fabs(a – b) > eps
a < b	sgn(a - b) < 0	a – b < -eps
a <= b	sgn(a - b) <= 0	a – b < eps
a > b	sgn(a - b) > 0	a – b > eps
a >= b	sgn(a - b) >= 0	a – b > -eps

输出陷阱
1.printf(“%.3lf”, a); //保留a的三位小数，按照第四位四舍五入

2.(int)a; //将a靠进0取整

3.ceil(a); floor(a); //顾名思义，向上取证、向下取整。需要注意的是，这两个函数都返回double，而非int

其中第一种很常见于输出(nonsense…)。

现在考虑一种情况,题目要求输出保留两位小数。有个case的正确答案的精确值是0.005,按理应该输出0.01,但你的结果可能是0.005000000001(恭喜)，也有可能是0.004999999999(悲剧),如果按照printf(“%.2lf”, a)输出，那你的遭遇将和括号里的字相同。

解决办法是，如果a为正，则输出a+eps, 否则输出a-eps

典型案例: POJ2826

2、计算顺序

两个浮点数相除可能会丧失精度，但如果是乘法操作，在一般情况下精度是不会丢失的，除非发生了溢出的话，或者小数位数太多。因此在计算过程中为了保持精度，我们应该尽可能的做乘法，而不是作除法。例如：HDU 1701
我们需要先将i*p/100而不是p/100*i；

引用案例：Java浮点数float和double精确计算的精度误差问题总结

public class Test{
    public static void main(String args[]){
        System.out.println(0.05+0.01);
        System.out.println(1.0-0.42);
        System.out.println(4.015*100);
        System.out.println(123.3/100);
    }
}

结果：
0.060000000000000005
0.5800000000000001
401.49999999999994
1.2329999999999999

计算机并不能识别除了二进制数据以外的任何数据。无论我们使用何种编程语言，在何种编译环境下工作，都要先 把源程序翻译成二进制的机器码后才能被计算机识别。以上面提到的情况为例，我们源程序里的2.4是十进制的，计算机不能直接识别，要先编译成二进制。2.4的二进制表示并非是精确的2.4，反而最为接近的二进制表示是2.3999999999999999。原因在于浮点数由两部分组成：指数和尾数，这点如果知道怎样进行浮点数的二进制与十进制转换，应该是不难理解的。如果在这个转换的过程中，浮点数参与了计算，那么转换的过程就会变得不可预知，并且变得不可逆。我们有理由相信，就是在这个过程中，发生了精度的丢失。而至于为什么有些浮点计算会得到准确的结果，应该也是碰巧那个计算的二进制与 十进制之间能够准确转换。而当输出单个浮点型数据的时候，可以正确输出，如

double d = 2.4;
System.out.println(d);

输出的是2.4，而不是2.3999999999999999。也就是说，不进行浮点计算的时候，在十进制里浮点数能正确显示。这更印证了我以上的想法，即如果浮点数参与了计算，那么浮点数二进制与十进制间的转换过程就会变得不可预知，并且变得不可逆。

事实上，浮点数并不适合用于精确计算，而适合进行科学计算。这里有一个小知识：既然float和double型用来表示带有小数点的数，那为什么我们不称 它们为“小数”或者“实数”，要叫浮点数呢？因为这些数都以科学计数法的形式存储。当一个数如50.534，转换成科学计数法的形式为5.053e1，它 的小数点移动到了一个新的位置（即浮动了）。可见，浮点数本来就是用于科学计算的，用来进行精确计算实在太不合适了。

====有发现再补====