java 不丢失精度运算

最新推荐文章于 2024-05-15 19:05:40 发布

bird_tp

最新推荐文章于 2024-05-15 19:05:40 发布

阅读量1k

点赞数 1

分类专栏：工作总结文章标签： java运算

本文链接：https://blog.csdn.net/bird_tp/article/details/86513169

版权

工作总结专栏收录该内容

43 篇文章 1 订阅

订阅专栏

问题：

java的运算中，你可能遇到过以下问题

double a = 0.012；

double b = 0.103；

double c;

c = a+b;

(c的结果可能为0.1150001)

这是由于运算过程中，丢失了精度的原因

我们可以用BigDecimal类解决这一类问题

public double GetResult(double numA, double numB, String operate){
       double res = 0;
       BigDecimal bigA = new BigDecimal(Double.toString(numA));
       BigDecimal bigB = new BigDecimal(Double.toString(numB));
       switch (operate) {

           case "+":
               res = bigA.add(bigB).doubleValue();
               break;
           case "-":
               res = bigA.subtract(bigB).doubleValue();
               break;
           case "*":
               res = bigA.multiply(bigB).doubleValue();
               break;
           case "/":
               res = bigA.divide(bigB).doubleValue();
               break;
           default :
               System.out.println("运算符不合法~");
               break;
       }
       return res;
   }