js浮点数乘法bug
bug原因:
JavaScript 内部只有一种数字类型Number,也就是说,JavaScript 语言的底层根本没有整数,所有数字都是以IEEE-754标准格式64位浮点数形式储存,1与1.0是相同的。因为有些小数以二进制表示位数是无穷的。JavaScript会把超出53位之后的二进制舍弃,所以涉及小数的比较和运算就会出问题,博主刚刚就到了,计算价格的时候,如下图。
111.1*12得到如下
解决方法一:
这个方法还是有问题的,当111.11 * 7 * 49的时候也会有问题
/**
** 乘法函数,用来得到精确的乘法结果
** 说明:javascript的乘法结果会有误差,在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。
** 调用:accMul(arg1,arg2)
** 返回值:arg1乘以 arg2的精确结果
**/
// 浮点数相乘
export function accMul(num1, num2) {
var m = 0,
s1 = num1.toString(),
s2 = num2.toString();
try {
m += s1.split(".")[1].length
} catch (e) {};
try {
m += s2.split(".")[1].length
} catch (e) {};
return Number(s1.replace(".", "")) * Number(s2.replace(".", "")) / Math.pow(10, m);
}
解决方法二:
这个方法还是有问题的,当111.11 * 7 * 49的时候ok
思路:先把你的小数乘100变成整数在计算乘积,最后结果在除以100,完美解决😁~
let numVule = (price || 0) * 100 * num ) / 100;