今天,客户发现导出的报表在运算上存在明显的误差,就是以下数
2305
4564.95
5270.1
8979
6162.9
1805
3055
1505
3105
1405
4329.35
1320
1805
1320
2355
1451
386
加起来应该是51123.3 但程序的结果是51123.305,程序的结果和真实结果相差0.005.
对于一个新手,我就查一下java的浮点型运算。结果发现java直接浮点运算存在移位计算的误差,于是参照网上的解决方法写了个小小的函数
private Float getFloatResult(float a, float b){
BigDecimal f1= new BigDecimal(Float.toString(a));
BigDecimal f2= new BigDecimal(Float.toString(b));
return f1.add(f2).floatValue();
}