BigDecimal计算

BigDecimal精确计算及陷阱

BigDecimal通常在涉及到精确计算的时候会用到,下面是自己多次错误使用BigDecimal的总结。

 

结论:

  1. BigDecimal初始化小数时,尽量用字符串形式,例如new BigDecimal("0.1");
  2. BigDecimal类型变量比较大小时用compareTo方法,判断变量值是否为0,与BigDecimal.ZERO比较大小。
  3. BigDecimal作除法时,除了要考虑除数是否为0,更要考虑是否能除尽的问题,直接调用BigDecimal divide(BigDecimal divisor, int scale, int roundingMode)方法做除法可以避免除不尽的问题。

 

初始化BigDecimal变量:

 

//BigDecimal初始化  
public static void testBigDecimalinit() {  
    BigDecimal num1 = new BigDecimal(0.1);  
    System.out.println("坑点1:num1="+num1);//坑点1:num1=0.1000000000000000055511151231257827021181583404541015625  
      
    BigDecimal num2 = new BigDecimal("0.1");  
    System.out.println("正确写法:num2="+num2);//正确写法:num2=0.1  
}   

 

结论:尽量用字符串的形式初始化,因为小数在计算机内部根本没法精确表示。 

 

比较大小

比较BigDecimal类型的变量和0的大小,用compareTo,不要用equals:

if (num1.compareTo(BigDecimal.ZERO)>0)  
if (num1.compareTo(BigDecimal.ZERO)<0)  
if (num1.compareTo(BigDecimal.ZERO)==0) 

 

//比较大小  
public static void testBigDecimalCompareTo() {  
    BigDecimal num1 = new BigDecimal("0.1");  
    BigDecimal num2 = new BigDecimal("0.100");  
      
    if (!num1.equals(num2)) {  
        System.out.println("坑点1,用equals比较大小,num1="+num1+", num2="+num2+" 【不相等】");  
    }  
    if (!(num1 == num2)) {  
        System.out.println("坑点2,用==运算符比较大小,num1="+num1+", num2="+num2+" 【不相等】");  
    }  
      
    if (num1.compareTo(num2) == 0) {  
        System.out.println("正确比较大小,用compareTo,num1="+num1+", num2="+num2+" 【相等】");  
    }  
}    

 

结论:比较大小或者值是否相等,用compareTo方法

 

BigDecimal除法

在出现除不尽的时候,会出现问题,例如1/3的问题:

 

//BigDecimal除法  
    public static void testBigDecimalDivide() {  
        BigDecimal num1 = new BigDecimal("1");  
        //坑点:Exception in thread "main" java.lang.ArithmeticException: Non-terminating decima    l expansion; no exact representable decimal result.  
//        System.out.println("坑点写法1:"+num1.divide(new BigDecimal("3")));  
//        System.out.println("坑点写法2:"+num1.divide(new BigDecimal("3")).setScale(2, BigDecimal.ROUND_DOWN));  
          
        System.out.println("正确写法:"+num1.divide(new BigDecimal("3"), 2, BigDecimal.ROUND_HALF_DOWN));  
    }    

 

结论:只有在divide的时候就设置好要精确的小数位数和舍入模式,才能避免出现无法精确表达除不尽的问题。

 

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值