在保险和金融行业通常对运算的精度要求都特别高。
Float小数点后取8位,
Double 小数点后取16位,
这两种数据类型不能够满足我们的需求,
所以我们需要使用BigDecimal 进行高精度情况下的运算。
为什么float和Double的运算精度不高?
因为这俩种方式得到的结果都是一种迫近型的数值,这种数值在进行高精度运算的时候会发生错误
很简单的例子:
float 类型的3.5在进行四舍五入的时候会造成值为3.0的情况。那是因为他在作四舍五入的时候是按照3.49999999的形式。.所以四舍五入的结果为3.0。
如果使用bigDecimal 进行运算的话会因为是放在CPU中的FPU数学运算器中进行运算,所以计算的速度也很慢。
如何在既保证运算精度的情况下又能保证运算的速度?
继续使用浮点类型,float或者double 但是我们在处理结果的时候使用floor(a+0.5000001)这样来替换掉四舍五入,或者处理结果。
为什么+0.5000001?选择小数点后7位
因为float是后8位,double是后16位置。这样+7位置不管在哪种情况下都可以进行精度提升。