toFixed精度丢失问题

bug说明:
在这里插入图片描述

10.3950 * 3935.00 用toFixed(2) 得到的是40904.32 实际应该是40904.33

解决的方法:
第一种:

在main.js中直接复制下面代码即可

Number.prototype.toFixed = function (n) {
  n = n || 0
  let resNum = Math.round((this * Math.pow(10, n + 1)) / 10) / Math.pow(10, n)
  let resNumString = resNum.toString()
  let dotIndex = resNumString.indexOf('.')
  if (dotIndex < 0 && n > 0) {
    dotIndex = resNumString.length
    resNumString += '.'
  }
  while (resNumString.length <= dotIndex + n) {
    resNumString += '0'
  }
  return resNumString
}

第二种:
在main.js中直接复制下面代码即可

// js
if (!Number.prototype._toFixed) {
  // eslint-disable-next-line no-extend-native
  Number.prototype._toFixed = Number.prototype.toFixed
}
// eslint-disable-next-line no-extend-native
Number.prototype.toFixed = function (d) {
  var s = this + "";
  if (!d) d = 0;
  if (s.indexOf(".") === -1) s += ".";
  s += new Array(d + 1).join("0");
  if (new RegExp("^(-|\\+)?(\\d+(\\.\\d{0," + (d + 1) + "})?)\\d*$").test(s)) {
    let s = "0" + RegExp.$2; var pm = RegExp.$1; var a = RegExp.$3.length; var b = true;
    if (a === d + 2) {
      a = s.match(/\d/g);
      if (parseInt(a[a.length - 1]) > 4) {
        for (var i = a.length - 2; i >= 0; i--) {
          a[i] = parseInt(a[i]) + 1;
          if (a[i] === 10) {
            a[i] = 0;
            b = i !== 1;
          } else break;
        }
      }
      s = a.join("").replace(new RegExp("(\\d+)(\\d{" + d + "})\\d$"), "$1.$2");
    }
    if (b) s = s.substr(1);
    return (pm + s).replace(/\.$/, "");
  }
  return this + "";
};
  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
### 回答1: 解决 JavaScript 中 0.1 和 0.2 的精度丢失问题的方法有以下几种: 1. 使用整数运算:将小数乘以 10 的整数次方,在运算完成后再除回去。 2. 使用第三方库:例如 Big.js、Decimal.js 等。 3. 使用 toFixed() 方法:该方法可以将一个数字转换为字符串,保留指定的小数位数。 例如: ``` var num = 0.1 + 0.2; console.log(num.toFixed(1)); // 输出 0.3 ``` 不过需要注意,使用 toFixed() 方法仍有一定的精度误差。 ### 回答2: 在JavaScript中,由于使用浮点数进行计算时,会出现精度丢失问题。这是由于计算机使用二进制来表示浮点数,而二进制无法精确表示所有的实数。 为了解决这个问题,可以使用一些技巧,例如: 1. 使用整数进行计算:将小数转换为整数进行计算,最后再将结果转换回小数。例如,可以将0.1转换为10,0.2转换为20,然后进行计算,最后再将结果除以10即可得到正确的小数结果。 2. 使用toFixed方法:toFixed()方法可以将一个浮点数保留指定位数的小数。例如,可以使用toFixed(1)将0.1保留一位小数,得到0.1,同样可以使用toFixed(1)将0.2保留一位小数,得到0.2。 另外,还可以使用一些第三方库来处理精度问题,例如BigDecimal.js、decimal.js等,这些库提供了更精确的计算功能,可以避免精度丢失问题。 需要注意的是,虽然上述方法可以解决大部分精度丢失问题,但是在涉及到非常复杂的浮点数计算时,仍然可能出现精度丢失。因此,在编写JavaScript代码时,应尽量避免对浮点数进行复杂的计算或比较操作,或者使用第三方库来处理这些计算。 ### 回答3: JavaScript中的0.1和0.2的精度丢失问题可以通过以下方法来解决: 1. 使用toFixed()函数:可以将浮点数转换为指定位数的字符串。例如,可以使用toFixed(1)将0.1转换为"0.1",将0.2转换为"0.2",然后再进行计算。 2. 使用BigInt对象:BigInt对象可以处理超出JavaScript数字类型最大安全整数范围的数字。可以将0.1和0.2转换为BigInt对象,然后进行计算。 3. 使用第三方库:一些第三方库,如Decimal.js和Big.js,提供了更精确的浮点数计算功能。这些库可以处理小数的精度丢失问题,提供更准确的计算结果。 下面是一个使用toFixed()函数解决0.1和0.2精度丢失问题的示例代码: ``` let num1 = 0.1; let num2 = 0.2; let result = (num1 + num2).toFixed(1); console.log(result); // 输出 0.3 ``` 注意,使用toFixed()函数返回的结果是字符串类型,需要根据需要进行类型转换。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值