JavaScript小数运算精度丢失问题解决方案

JavaScript中的数值计算会存在精度丢失问题，这是因为JavaScript使用IEEE 754标准的浮点数表示法来表示数字，这种表示方法无法精确表示所有数字，特别是涉及到小数的时候。除javascript外，java、python等都有类似问题，因为浮点数IEEE754是被普遍使用的标准

示例

console.log(0.1 + 0.2) // 0.30000000000000004
console.log(0.2 + 0.4) // 0.6000000000000001
console.log(19.9 * 100) // 1989.9999999999998

根源

• 整数：因为数据太大，最大数2^53

• 小数：因为小数在转换成二进制时出现了无效循环

解决方案

• 对于整数，前端出现问题的几率可能比较低，只要不超过2^53就不会丢失精度

• 对于小数，前端出现问题的几率还是很多的，先把小数变成整数（乘倍数），再缩小回原来倍数（除倍数）

实现思路

1. 判断两个数的类型和值是否正确，如果不正确则返回null或抛出错误。

2. 判断两个数的小数位数，取其中较大的小数位数，将两个数都扩大相应倍数，转换成整数。

3. 进行数值运算，得到结果。

ChatGPT提供的方法

function calculate(num1, num2, operator) {
  // 判断类型和值是否正确
  if (typeof num1 !== 'number' || typeof num2 !== 'number' || isNaN(num1) || isNaN(num2)) {
    return null;
  }

  // 判断运算符是否正确
  if (operator !== '+' && operator !== '-' && operator !== '*' && operator !== '/') {
    return null;
  }

  // 正则验证
  if (!/^-?\d+(\.\d+)?$/.test(num1) || !/^-?\d+(\.\d+)?$/.test(num2)) {
    return NaN;
  }

  // 将两个数扩大相应倍数
  const multiplier = Math.pow(10, Math.max(getDecimalDigits(num1), getDecimalDigits(num2)));
  const int1 = Math.round(num1 * multiplier);
  const int2 = Math.round(num2 * multiplier);

  // 进行数值运算
  let result;

  switch (operator) {
    case "+":
      result = (int1 + int2) / multiplier;
      break;
    case "-":
      result = (int1 - int2) / multiplier;
      break;
    case "*":
      result = (int1 * int2) / Math.pow(multiplier, 2);
      break;
    case "/":
      result = (int1 / int2) * (multiplier / Math.pow(10, getDecimalDigits(num2)));
      break;
    default:
      result = NaN;
  }

  return result;
}

function getDecimalDigits(num) {
  if (Number.isInteger(num)) {
    return 0;
  }

  return num.toString().split(".")[1].length;
}


console.log(calculate(0.1, 0.2, '+')) // 0.3
console.log(calculate(0.2, 0.4, '+')) // 0.6
console.log(calculate(19.9, 100, '*')) // 1990

G|Z|H回复 1 可获取电子书

本文由 mdnice 多平台发布