javascript高精度计算解决方案

javascript高精度计算存在一定缺陷,在运算时可能会出现很多位小数,例如:
在这里插入图片描述
想知道产生这一问题的原因可以戳这里
为了解决这个问题下面有几种方案可供参考:

方案一:使用number-precision库进行处理
在这里插入图片描述
方案二:使用bignumber.js库进行处理:
在这里插入图片描述
类似上面两种封装好的函数库还有很多,可以自己去查找更方便的。如果不想引入外来的库,可以考虑使用下面的函数进行处理:(以乘法为例,加减除可参考这里

方案三:

/**
 * @description 精确乘法 处理js高精度计算缺陷
 * @param num1
 * @param num2
 * @returns {number}
 */
 function accMul(num1, num2) {
    var m = 0, s1 = num1.toString(), s2 = num2.toString();
    try {
     m += s1.split(".")[1].length;
    } catch (e) {
    }
    try {
     m += s2.split(".")[1].length;
    } catch (e) {
    }
    let res=Number(s1.replace(".", "")) * Number(s2.replace(".", ""))
        / Math.pow(10, m);
    if (Math.abs(res) == 0)
    {
        res=0//发现0乘以负数的结果是 -0 稍微处理一下
    }
    return res;
   }

方案四:如果允许保留几位小数,可以在运算后使用num.toFixed(n)直接保留n位小数
方案五:如果知道参与运算的最多是几位小数,可以采用先扩大再缩小的方法,化零为整,也可以避免小数运算 带来的问题:

num1 * (num2 *10000)/10000

这样如果num2最多是4位小数 就可以化成整数计算,避免了小数计算的误差

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值