java 加减乘法比较精度运算写法总结

最新推荐文章于 2024-11-03 11:01:20 发布

mail_bai

最新推荐文章于 2024-11-03 11:01:20 发布

阅读量1.1k

点赞数 1

分类专栏： Java--JDK学习文章标签： java

本文链接：https://blog.csdn.net/mail_bai/article/details/7094893

版权

Java--JDK学习专栏收录该内容

2 篇文章 0 订阅

订阅专栏

leftV：表示运算的左边值， rightV：表示运算的右边值

 
加法： new BigDecimal(Double.toString(leftV)).add(new BigDecimal(Double.toString(rightV))).doubleValue;
减法： new BigDecimal(Double.toString(leftV)).subtract(new BigDecimal(Double.toString(rightV))).doubleValue();
乘法： new BigDecimal(Double.toString(leftV)).multiply(new BigDecimal(Double.toString(rightV))).doubleValue;
除法： new BigDecimal(Double.toString(leftV)).divide(new BigDecimal(Double.toString(rightV)),getExpressionConfig().getDivideScale(),BigDecimal.ROUND_HALF_EVEN).doubleValue();

说明：

getExpressionConfig().getDivideScale()：是除后结果值要保留的小数位数。

BigDecimal.ROUND_HALF_EVEN：是小数舍位的方式，ROUND_HALF_EVEN方式是相对最合理的

 
 大于： new Boolean(leftV > rightV);
 小于:  new Boolean(leftV < rightV);
 大于等于： new Boolean(new BigDecimal(leftV).setScale(getExpressionConfig().getCompareScale(),BigDecimal.ROUND_HALF_EVEN).doubleValue() >= new BigDecimal(rightV).setScale(getExpressionConfig().getCompareScale(),BigDecimal.ROUND_HALF_EVEN).doubleValue());
 小于等于:   new Boolean(new BigDecimal(leftV).setScale(getExpressionConfig().getCompareScale(),BigDecimal.ROUND_HALF_EVEN).doubleValue() <= new BigDecimal(rightV).setScale(getExpressionConfig().getCompareScale(),BigDecimal.ROUND_HALF_EVEN).doubleValue());
 等于:   new Boolean(new BigDecimal(leftV).setScale(getExpressionConfig().getCompareScale(),BigDecimal.ROUND_HALF_EVEN).doubleValue()== new BigDecimal(rightV).setScale(getExpressionConfig().getCompareScale(),BigDecimal.ROUND_HALF_EVEN).doubleValue());
  不等于:  new Boolean(new BigDecimal(leftV).setScale(getExpressionConfig().getCompareScale(),BigDecimal.ROUND_HALF_EVEN).doubleValue() != new BigDecimal(rightV).setScale(getExpressionConfig().getCompareScale(),BigDecimal.ROUND_HALF_EVEN).doubleValue());

说明：

getExpressionConfig().getCompareScale()：做比较时，会先进行舍位处理再比较，此值表示舍位时保留的小数位数。

BigDecimal.ROUND_HALF_EVEN：是小数舍位的方式，ROUND_HALF_EVEN方式是相对最合理的