js中加减乘除方法

比如:

0.03/0.00003=999.9999999999999

0.0003*0.3=0.000029999999999999997

0.1+0.2=0.30000000000000004

后面查了一下发现原因是:
浮点数值的最高进度是17位小数,但在进行运算的时候其精确度却远远不如整数;整数在进行运算的时候都会转成10进制; 而Java和JavaScript中计算小数运算时,都会先将十进制的小数换算到对应的二进制,一部分小数并不能完整的换算为二进制,这里就出现了第一次的误差。待小数都换算为二进制后,再进行二进制间的运算,得到二进制结果。然后再将二进制结果换算为十进制,这里通常会出现第二次的误差。
所以(0.1+0.2)!=03
直接贴上个方法:

function toDecimal2(x,ss) {
var f = parseFloat(x);
if (isNaN(f)) {
return false;
}
var f = Math.round(x*100)/100;
var s = f.toString();
var rs = s.indexOf(’.’);
if (rs < 0) {
rs = s.length;
s += ‘.’;
}
while (s.length <= rs + ss) {
s += ‘0’;
}
return s;
}

function bcFixed(num, s) {
var times = Math.pow(10, s)
var des = num * times + 0.5
des = parseInt(des, 10) / times
return toDecimal2(des,s)+’’;
}

/**

  • 加法运算,避免数据相加小数点后产生多位数和计算精度损失。
  • @param num1加数1 | num2加数2
    /
    function bcadd(num1, num2,s) {
    var baseNum, baseNum1, baseNum2,ret;
    try {
    baseNum1 = num1.toString().split(".")[1].length;
    } catch (e) {
    baseNum1 = 0;
    }
    try {
    baseNum2 = num2.toString().split(".")[1].length;
    } catch (e) {
    baseNum2 = 0;
    }
    baseNum = Math.pow(10, Math.max(baseNum1, baseNum2));
    ret=(num1 * baseNum + num2 * baseNum) / baseNum;
    return bcFixed(ret,s);
    };
    /
    *
  • 加法运算,避免数据相减小数点后产生多位数和计算精度损失。
  • @param num1被减数 | num2减数
    /
    function bcsub(num1, num2,s) {
    var baseNum, baseNum1, baseNum2,ret;
    var precision;// 精度
    try {
    baseNum1 = num1.toString().split(".")[1].length;
    } catch (e) {
    baseNum1 = 0;
    }
    try {
    baseNum2 = num2.toString().split(".")[1].length;
    } catch (e) {
    baseNum2 = 0;
    }
    baseNum = Math.pow(10, Math.max(baseNum1, baseNum2));
    precision = (baseNum1 >= baseNum2) ? baseNum1 : baseNum2;
    ret=((num1 * baseNum - num2 * baseNum) / baseNum).toFixed(precision);
    return bcFixed(ret,s);
    };
    /
    *
  • 乘法运算,避免数据相乘小数点后产生多位数和计算精度损失。
  • @param num1被乘数 | num2乘数
    /
    function bcmul(num1, num2,s) {
    var baseNum = 0,ret;
    try {
    baseNum += num1.toString().split(".")[1].length;
    } catch (e) {
    }
    try {
    baseNum += num2.toString().split(".")[1].length;
    } catch (e) {
    }
    ret=Number(num1.toString().replace(".", “”)) * Number(num2.toString().replace(".", “”)) / Math.pow(10, baseNum);
    return bcFixed(ret,s);
    };
    /
    *
  • 除法运算,避免数据相除小数点后产生多位数和计算精度损失。
  • @param num1被除数 | num2除数
    */
    function bcdiv(num1, num2,s) {
    var baseNum1 = 0, baseNum2 = 0,ret;
    var baseNum3, baseNum4;
    try {
    baseNum1 = num1.toString().split(".")[1].length;
    } catch (e) {
    baseNum1 = 0;
    }
    try {
    baseNum2 = num2.toString().split(".")[1].length;
    } catch (e) {
    baseNum2 = 0;
    }
    with (Math) {
    baseNum3 = Number(num1.toString().replace(".", “”));
    baseNum4 = Number(num2.toString().replace(".", “”));
    ret=(baseNum3 / baseNum4) * pow(10, baseNum2 - baseNum1);
    return bcFixed(ret,s);
    }
    };

调用方法:(后面的s为显示小数点后几位,比如s为0时显示整数,2为显示两位小数,比如2.00)

加法:bcadd(num1, num2,s) //如:1+2为 bcadd(1, 2,2)

减法:bcsub(num1, num2,s) //如:1-2为 bcsub(1, 2,2)

乘法:bcmul(num1, num2,s) //如:1*2为 bcmul(1, 2,2)

除法:bcdiv(num1, num2,s) //如:1/2为 bcdiv(1, 2,s)

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值