js中的小数计算精度问题,修正计算精度

js 的精度问题这个网上比较多,进行加减乘除运算也难免,常见的比如:

1)在控制台 输入:1.1+0.3 运算结果是:1.4000000000000001,根本原因也就是二进制和十进制转换的问题,具体源由参考网上相关文章,有一种解决办法:两个数分别剩10的N次方最后再除10的N次方,比如:(1.1*10+0.3*10)/10  ,貌似没有什么问题,但是还是有问题的,只是问题比较隐蔽

 

2)【容易忽略的精度问题】 比如:

       var  num=35.41;

        num*100结果是什么?3541?

        在调试器和控制台中可以看到,这个值为【3540.9999999999994】,如此看来小数乘10的倍数是存在问题的,

        所以如果页面存在一个需求: 页面小数运算结果为【0】的时候做点什么的话。。。那它就永远也不相等,其结果是一个很接近0的数比如:-6.25e-15;

        所以,把想把小数转整数不是么简单的乘个10的N次方,

       类似的值还有 【20.06】  20.06*100 =?     2005.9999999999998

       解决方法就是,【20.06】拆成,2000 和6 然后分别和100相乘相加再除100  原理是这样,做起来的话,贴代码

 

export default class MathBase {

    // 加法
    add(...list) {
        return list.reduce(MathBase._add)
    }

    // 减法
    subtract(...list) {
        return list.reduce(MathBase._subtract)
    }

    // 乘法
    multiply(...list) {
        return list.reduce(MathBase._multiply)
    }

    // 除法
    divide(...list) {
        return list.reduce(MathBase._divide)
    }

    // 加法
    static _add(n, m) {
        const {F,S,T,l1,l2} = MathBase.getInteger(n,m);
        return (F[0] * T + F[1] * T / Math.pow(10, l1) + S[0] * T + S[1] * T / Math.pow(10, l2)) / T
    }

    // 减法
    static _subtract(n, m) {
        const {F,S,T,l1,l2} = MathBase.getInteger(n,m);
        return (F[0] * T + F[1] * T / Math.pow(10, l1) - S[0] * T - S[1] * T / Math.pow(10, l2)) / T
    }

    // 乘法
    static _multiply(n, m) {
        const {F,S,T,l1,l2} = MathBase.getInteger(n,m);
        return ((F[0] * T + F[1] * T / Math.pow(10, l1)) * (S[0] * T + S[1] * T / Math.pow(10, l2))) / T / T
    }

    // 除法
    static _divide(n, m) {
        const {F,S,T,l1,l2} = MathBase.getInteger(n,m);
        return ((F[0] * T + F[1] * T / Math.pow(10, l1)) / (S[0] * T + S[1] * T / Math.pow(10, l2)))
    }


    static numToString(tempArray) {
        if (typeof tempArray === 'number') {
            return tempArray.toString()
        }
        return '0'
    }

    static handleNum(n) {
        n = n.toString();
        let temp = n.split('.');
        temp.push(temp[1].length);
        return temp
    }

    static getInteger(n,m){
        n = typeof n === 'string' ? n : MathBase.numToString(n);
        m = typeof m === 'string' ? m : MathBase.numToString(m);
        let F = n.indexOf('.') !== -1 ? MathBase.handleNum(n) : [n, 0, 0],
            S = m.indexOf('.') !== -1 ? MathBase.handleNum(m) : [m, 0, 0],
            l1 = F[2], l2 = S[2],
            L = Math.max(l1,l2),
            T = Math.pow(10, L);
        return {
            F,
            S,
            T,
            l1,
            l2
        }
    }
}

 

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值