Bigdecimal.divide()方法使用注意事项

1.工作记录

        BigDecimal fee = new BigDecimal("0.1");
        BigDecimal doubleParamFee = new BigDecimal(0.1);
        BigDecimal rate = new BigDecimal("1.05");
        BigDecimal div = fee.divide(rate,RoundingMode.DOWN);
        BigDecimal vat = fee.subtract(div);

        System.out.println("fee:"+fee);
        System.out.println("doubleParamFee:"+doubleParamFee);
        System.out.println("div:"+div);
        System.out.println("vat:"+vat);

        // 输出
        fee:0.1
        doubleParamFee:0.1000000000000000055511151231257827021181583404541015625
        div:0.0
        vat:0.1

Bigdecimal的除法精度保存的是分子的scale:

例子中分子0.1的精度是1位,虽然0.1/1.05=0.09523809523809523,但是按照分子只保留一位精度结果等于0.0=0,故我们在使用Bigdecimal除法时需指定其精度(使用另一个构造方法)以期得到我们想要的结果。

BigDecimal div = fee.divide(rate,18,RoundingMode.DOWN);

入参就指定精度结果会得到正确的0.09523809523809523。

Bigdecimal入参是最好使用字符串入参,如果使用double类型入参会精度丢失,如图一0.1入参Bigdecimal时得到的结果是0.1000000000000000055511151231257827021181583404541015625,而使用String类型入参则得到正确的0.1。

仅做记录。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值