js中解决小数加减乘除运算不准

原因
因为计算机表示小数二进制的问题导致0.1+0.2这种没法精确计算

解决方案
把小数先转为整数进行运算,然后在转回小数

function accAdd(arg1, arg2) {
    var r1, r2, m, c;
    try {
        r1 = arg1.toString().split(".")[1].length;
    }
    catch (e) {
        r1 = 0;
    }
    try {
        r2 = arg2.toString().split(".")[1].length;
    }
    catch (e) {
        r2 = 0;
    }
    c = Math.abs(r1 - r2);
    m = Math.pow(10, Math.max(r1, r2));
    if (c > 0) {
        var cm = Math.pow(10, c);
        if (r1 > r2) {
            arg1 = Number(arg1.toString().replace(".", ""));
            arg2 = Number(arg2.toString().replace(".", "")) * cm;
        } else {
            arg1 = Number(arg1.toString().replace(".", "")) * cm;
            arg2 = Number(arg2.toString().replace(".", ""));
        }
    } else {
        arg1 = Number(arg1.toString().replace(".", ""));
        arg2 = Number(arg2.toString().replace(".", ""));
    }
    return (arg1 + arg2) / m;
}

function accSub(arg1, arg2) {
    var r1, r2, m, n;
    try {
        r1 = arg1.toString().split(".")[1].length;
    }
    catch (e) {
        r1 = 0;
    }
    try {
        r2 = arg2.toString().split(".")[1].length;
    }
    catch (e) {
        r2 = 0;
    }
    m = Math.pow(10, Math.max(r1, r2)); //last modify by deeka //动态控制精度长度
    n = (r1 >= r2) ? r1 : r2;
    return ((arg1 * m - arg2 * m) / m).toFixed(n);
}

function accMul(arg1, arg2) {
    var m = 0, s1 = arg1.toString(), s2 = arg2.toString();
    try {
        m += s1.split(".")[1].length;
    }
    catch (e) {
    }
    try {
        m += s2.split(".")[1].length;
    }
    catch (e) {
    }

    return Number(s1.replace(".", "")) * Number(s2.replace(".", "")) / Math.pow(10, m);
}


function accDiv(arg1, arg2) {
    var t1 = 0, t2 = 0, r1, r2;
    try {
        t1 = arg1.toString().split(".")[1].length;
    }
    catch (e) {
    }
    try {
        t2 = arg2.toString().split(".")[1].length;
    }
    catch (e) {
    }

    r1 = Number(arg1.toString().replace(".", ""));
    r2 = Number(arg2.toString().replace(".", ""));

    return (r1 / r2) * Math.pow(10, t2 - t1);
}
  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
### 回答1: 使用BigDecimal进行加减乘除运算时,可以使用setScale方法设置保留小数位数。例如: BigDecimal a = new BigDecimal("1.2345"); BigDecimal b = new BigDecimal("2.3456"); // 加法 BigDecimal c = a.add(b).setScale(2, BigDecimal.ROUND_HALF_UP); // 减法 BigDecimal d = a.subtract(b).setScale(2, BigDecimal.ROUND_HALF_UP); // 乘法 BigDecimal e = a.multiply(b).setScale(2, BigDecimal.ROUND_HALF_UP); // 除法 BigDecimal f = a.divide(b, 2, BigDecimal.ROUND_HALF_UP); 其,setScale方法的第一个参数表示保留小数位数,第二个参数表示舍入模式。ROUND_HALF_UP表示四舍五入。 ### 回答2: Bigdecimal是在计算机科学非常重要的一个类,可以处理高精度的十进制小数,它的精度可以达到几百位甚至上千位,而且不会产生精度误差。在进行加减乘除运算时,也需要注意保留小数点后几位,避免出现误差。 在Java,我们可以使用Bigdecimal类来进行高精度计算。要想对Bigdecimal进行加减乘除运算并保留两位小数,可以采用如下步骤: 1. 创建Bigdecimal对象,设置初始值。 例如: BigDecimal a = new BigDecimal("1.235"); 2. 进行加减乘除运算,使用相应的方法。 例如: BigDecimal b = new BigDecimal("2.345"); BigDecimal c = a.add(b); // 加法运算 BigDecimal d = a.subtract(b); // 减法运算 BigDecimal e = a.multiply(b); // 乘法运算 BigDecimal f = a.divide(b, 2, BigDecimal.ROUND_HALF_UP); // 除法运算,保留两位小数 3. 使用setScale()方法设置保留小数点后几位数。 例如: BigDecimal g = new BigDecimal("3.14"); BigDecimal h = g.setScale(2, BigDecimal.ROUND_HALF_UP); // 保留两位小数 以上就是Bigdecimal加减乘除运算并保留两位小数的方法。需要注意的是,在进行除法运算时,我们需要指定保留小数点后的位数和舍入方式。BigDecimal提供了多种舍入方式,其ROUND_HALF_UP舍入模式可以保证四舍五入。保留小数点后几位数的设置,可以使用setScale()方法来实现。 ### 回答3: BigDecimal是Java平台提供的高精度计算类,它可以用于对超出Java原生数据类型表示范围的数字进行运算。BigDecimal的加减乘除运算可以使用其提供的方法,例如add()、subtract()、multiply()和divide()等。在进行这些运算时,需要指定运算过程要用到的位数,特别是小数点后的位数,以保证结果的精度和正确性。 在进行BigDecimal运算时,为了保留两位小数,可以使用setScale()方法设置小数点后的位数。如下所示: BigDecimal a = new BigDecimal("3.1415926"); BigDecimal b = new BigDecimal("2.718"); BigDecimal result = a.divide(b, 2, RoundingMode.HALF_UP); 在上述示例,a和b都是BigDecimal类型的数字,其a表示圆周率π,b表示自然常数e。使用divide()方法计算a与b的商,在设置小数点后保留两位,并使用HALF_UP舍入模式将小数点后第三位四舍五入。最终,result表示π÷e的值,保留两位小数为1.15。 当进行多个BigDecimal的加减乘除运算时,需要将结果赋值给新的BigDecimal对象,以避免因前一个运算的结果而引起的精度损失。同时,还需要注意BigDecimal对象的构造方法需要传入字符串参数,而非double类型的数字,以避免精度丢失。 总之,通过使用BigDecimal类的add()、subtract()、multiply()和divide()方法,同时设置setScale()方法指定小数点后的位数,可以进行BigDecimal的加减乘除运算,并保留指定位数的小数。这样可以确保结果的精确性和正确性。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值