JS浮点数运算——精度丢失解决方案

注意!!!建议不要用add/div/mul/sub/toFieed这些常用的,当时遇到过直接用这几个函数名,导致echarts的y轴坐标出现了问题,原本为整数的数据发现出现了小数,我也在dist中打包后的echarts源码搜了一下,并没有发现echarts中有对Number的prototype进行修改,但是我不用那几个函数名确实又ok了,原因未知

//乘法 
Number.prototype.xxxmul = function(arg) {
    var m = 0,
        s1 = this.toString(),
        s2 = arg.toString();
    try {
        m += s1.split(".")[1].length
    } catch(e) {}
    try {
        m += s2.split(".")[1].length
    } catch(e) {}
    return Number(s1.replace(".", "")) * Number(s2.replace(".", "")) / Math.pow(10, m)
}

//加法

Number.prototype.xxxadd = function(arg) {
    var r1, r2, m;
    try {
        r1 = this.toString().split(".")[1].length
    } catch(e) {
        r1 = 0
    }
    try {
        r2 = arg.toString().split(".")[1].length
    } catch(e) {
        r2 = 0
    }
    m = Math.pow(10, Math.max(r1, r2))
    return( this.mul(m) + Number(arg).mul(m) ).div(m); 
}

//减法

Number.prototype.xxxsub = function(arg) {
    return this.add(-arg);
}
//除法 

Number.prototype.xxxdiv = function(arg) {
    var t1 = 0,
        t2 = 0,
        r1, r2;
    try {
        t1 = this.toString().split(".")[1].length
    } catch(e) {}
    try {
        t2 = arg.toString().split(".")[1].length
    } catch(e) {}
    r1 = Number(this.toString().replace(".", ""))
    r2 = Number(arg.toString().replace(".", ""))
    return(r1 / r2) *  Math.pow(10, t2 - t1);
}

//四舍五入保留两位 n 数
Number.prototype.xxxtoFixed = function(n){
    var times = Math.pow(10, n)
    var des = this * times + 0.5
    des = parseInt(des, 10) / times
    return des + '';

}
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值