问题
当我们需要对后台返回的数据×100并加%的时候 0.0014*100 = 0.13999999999999999
加
0.1 + 0.2 // 结果为 0.30000000000000004
0.3 - 0.1 // 结果为 0.19999999999999996// 这是因为浮点数的二进制表示无法准确表示某些十进制小数,导致计算结果存在微小的误差。
乘法和除法
0.1 * 0.2 // 结果为 0.020000000000000004
0.3 / 0.1 // 结果为 2.9999999999999996// 在进行乘法和除法时,浮点数计算结果的精度问题更为突出,可能会产生更大的误差。
比较运算
0.1 + 0.2 === 0.3 // 结果为 false
// 直接比较浮点数可能会导致不准确的结果,因为计算结果的微小误差可能使它们不完全相等。
分析
在前端开发中,精度丢失是一个常见的问题,特别是在涉及到浮点数计算时。
主要原因是计算机内部使用二进制浮点数表示法,而不是十进制。这种二进制表示法在某些情况下无法准确地表示某些十进制小数,从而导致精度丢失。
某些十进制小数无法准确地表示为有限长度的二进制小数。例如,0.1 和 0.2 这样的十进制小数在二进制表示中是无限循环的小数,因此在计算机内部以有限的位数进行表示时,会存在舍入误差,导致精度丢失
解决
/**
* 解决两个数相加精度丢失问题
* @param a
* @param b
* @returns {Number}
*/
export function floatAdd(a, b) {
var c, d, e;
if(undefined==a||null==a||""==a||isNaN(a)){a=0;}
if(undefined==b||null==b||""==b||isNaN(b)){b=0;}
try {
c = a.toString().split(".")[1].length;
} catch (f) {
c = 0;
}
try {
d = b.toString().split(".")[1].length;
} catch (f) {
d = 0;
}
e = Math.pow(10, Math.max(c, d));
return (floatMul(a, e) + floatMul(b, e)) / e;
}
/**
* 解决两个数相减精度丢失问题
* @param a
* @param b
* @returns {Number}
*/
export function floatSub(a, b) {
var c, d, e;
if(undefined==a||null==a||""==a||isNaN(a)){a=0;}
if(undefined==b||null==b||""==b||isNaN(b)){b=0;}
try {
c = a.toString().split(".")[1].length;
} catch (f) {
c = 0;
}
try {
d = b.toString().split(".")[1].length;
} catch (f) {
d = 0;
}
e = Math.pow(10, Math.max(c, d));
return (floatMul(a, e) - floatMul(b, e)) / e;
}
/**
* 解决两个数相乘精度丢失问题
* @param a
* @param b
* @returns {Number}
*/
export function floatMul(a, b) {
var c = 0,
d = a.toString(),
e = b.toString();
try {
c += d.split(".")[1].length;
} catch (f) {}
try {
c += e.split(".")[1].length;
} catch (f) {}
return Number(d.replace(".", "")) * Number(e.replace(".", "")) / Math.pow(10, c);
}
/**
* 解决两个数相除精度丢失问题
* @param a
* @param b
* @returns
*/
export function floatDiv(a, b) {
var c, d, e = 0,
f = 0;
try {
e = a.toString().split(".")[1].length;
} catch (g) {}
try {
f = b.toString().split(".")[1].length;
} catch (g) {}
return c = Number(a.toString().replace(".", "")), d = Number(b.toString().replace(".", "")), floatMul(c / d, Math.pow(10, f - e));
}