BigDecimal精度和比较问题

该博客探讨了BigDecimal在Java中处理精度问题时的注意事项,通过示例展示了compareTo和equals方法在比较时的不同。主要强调在进行BigDecimal比较时,应使用compareTo方法以确保精度的正确性。
摘要由CSDN通过智能技术生成

BigDecimal精度和比较问题

public class BigDecimalTest {

    public static void main(String[] args) {
        BigDecimal b1 = new BigDecimal("300000.00000");
        BigDecimal b2 = new BigDecimal("300000.000");
        System.out.println("b1 = " + b1.toString() +" 和 b2 = " + b2.toString() + " 的 compareTo 比较结果:" + (b1.compareTo(b2) == 0));
        System.out.println("b1 = " + b1.toString() +" 和 b2 = " + b2.toString() + " 的 equals 比较结果:" + b1.equals(b2));

        System.out.println("==========================================================");
        b1 = b1.setScale(3 , BigDecimal.ROUND_HALF_UP);
        System.out.println("b1 = " + b1.toString() +" 和 b2 = " + b2.toString() + " 的 compareTo 比较结果:" + (b1.compareTo(b2) == 0));
        System.out.println("b1 = " + b1.toString() +" 和 b2 = " + b2.toString() + " 的 equals 比较结果:" + b1.equals(b2));
    }
}

b1 = 300000.00000 和 b2 = 300000.000 的 compareTo 比较结果:true
b1 = 300000.00000 和 b2 = 300000.000 的 equals 比较结果:false
==========================================================
b1 = 300000.000 和 b2 = 300000.000 的 compareTo 比较结果:true
b1 = 300000.000 和 b2 = 300000.000 的 equals 比较结果:true

所以BigDecimal比较的时候要采用compareTo方法

源码

compareTo

	public int compareTo(BigDecimal val) {
        // 精度相同比较
        if (scale == val.scale) {
            long xs = intCompact;
            long ys = val.intCompact;
            if (xs != INFLATED && ys != INFLATED)
                return xs != ys ? ((xs > ys) ? 1 : -1) : 0;
        }
        //精度不同
        int xsign = this.signum();
        int ysign = val.signum();
        if (xsign != ysign)
            return (xsign > ysign) ? 1 : -1;
        if (xsign == 0)
            return 0;
        int cmp = compareMagnitude(val);
        return (xsign > 0) ? cmp : -cmp;
    }

equals

	public boolean equals(Object x) {
        if (!(x instanceof BigDecimal))
            return false;
        BigDecimal xDec = (BigDecimal) x;
        if (x == this)
            return true;
        //精度不同,直接返回false
        if (scale != xDec.scale)
            return false;
        long s = this.intCompact;
        long xs = xDec.intCompact;
        if (s != INFLATED) {
            if (xs == INFLATED)
                xs = compactValFor(xDec.intVal);
            return xs == s;
        } else if (xs != INFLATED)
            return xs == compactValFor(this.intVal);

        return this.inflated().equals(xDec.inflated());
    }
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值