javascript高精度计算存在一定缺陷,在运算时可能会出现很多位小数,例如:
想知道产生这一问题的原因可以戳这里
为了解决这个问题下面有几种方案可供参考:
方案一:使用number-precision库进行处理
方案二:使用bignumber.js库进行处理:
类似上面两种封装好的函数库还有很多,可以自己去查找更方便的。如果不想引入外来的库,可以考虑使用下面的函数进行处理:(以乘法为例,加减除可参考这里)
方案三:
/**
* @description 精确乘法 处理js高精度计算缺陷
* @param num1
* @param num2
* @returns {number}
*/
function accMul(num1, num2) {
var m = 0, s1 = num1.toString(), s2 = num2.toString();
try {
m += s1.split(".")[1].length;
} catch (e) {
}
try {
m += s2.split(".")[1].length;
} catch (e) {
}
let res=Number(s1.replace(".", "")) * Number(s2.replace(".", ""))
/ Math.pow(10, m);
if (Math.abs(res) == 0)
{
res=0//发现0乘以负数的结果是 -0 稍微处理一下
}
return res;
}
方案四:如果允许保留几位小数,可以在运算后使用num.toFixed(n)
直接保留n位小数
方案五:如果知道参与运算的最多是几位小数,可以采用先扩大再缩小的方法,化零为整,也可以避免小数运算 带来的问题:
num1 * (num2 *10000)/10000
这样如果num2最多是4位小数 就可以化成整数计算,避免了小数计算的误差