关于toFixed的精度问题

解决方式一,直接上代码

Number.prototype.toFixed = function (s) {
        var that = this, changenum, index;
        changenum = (parseInt(that * Math.pow(10, s) + 0.5) / Math.pow(10, s)).toString();
        index = changenum.indexOf(".");
        if (index < 0 && s > 0) {
            changenum = changenum + ".";
            for (var i = 0; i < s; i++) {
                changenum = changenum + "0";
            }
        } else {
            index = changenum.length - index;
            for (var i = 0; i < (s - index) + 1; i++) {
                changenum = changenum + "0";
            }
        }
        return changenum;
    }

这个方法是科可行的。但是对于负数那可就会产生错误。比如说如果this是“-21.99999999998”,代入这个方法,很奇怪的就是这个返回的值居然成了“-21.99”。跟我们需要的“-22”差了一些啊。
分析一下方法,就会发现,负数的话,在parseInt方法那边可能会有错误,这个时候我们判断一下负数的话直接将changenum 改一下绝对值就好了。重新改好的代码如下

Number.prototype.toFixed = function (s) {
        var that = this, changenum, index;
        if (this < 0) {
            that = -that;
        }
        changenum = (parseInt(that * Math.pow(10, s) + 0.5) / Math.pow(10, s)).toString();
        index = changenum.indexOf(".");
        if (index < 0 && s > 0) {
            changenum = changenum + ".";
            for (var i = 0; i < s; i++) {
                changenum = changenum + "0";
            }
        } else {
            index = changenum.length - index;
            for (var i = 0; i < (s - index) + 1; i++) {
                changenum = changenum + "0";
            }
 
 
        }
        if (this < 0) {
            return -changenum;
        } else {
            return changenum;
        }
    }

解决方式二,如下:

Number.prototype.toFixed = function(n) {
  if (n > 20 || n < 0) {
    throw new RangeError("toFixed() digits argument must be between 0 and 20")
  }
  let number = this
  if (this < 0) {
        number = -number
    }
  // number = number < 0 ? -number : number
  if (isNaN(number) || number >= Math.pow(10, 21)) {
    return number.toString()
  }
  if (typeof n == "undefined" || n == 0) {
    return Math.round(number).toString()
  }

  let result = number.toString()
  const arr = result.split(".")

  // 整数的情况
  if (arr.length < 2) {
    result += "."
    for (let i = 0; i < n; i += 1) {
      result += "0"
    }
    return result
  }

  const integer = arr[0]
  const decimal = arr[1]
  if (decimal.length == n) {
    return result
  }
  if (decimal.length < n) {
    for (let i = 0; i < n - decimal.length; i += 1) {
      result += "0"
    }
    return result
  }
  result = integer + "." + decimal.substr(0, n)
  const last = decimal.substr(n, 1)

  // 四舍五入,转换为整数再处理,避免浮点数精度的损失,我们需要兼容负数,所以还得在方法中进行修改
  if (parseInt(last, 10) >= 5) {
    const x = Math.pow(10, n)
    result = (Math.round(parseFloat(result) * x) + 1) / x
    result = result.toFixed(n)
  }
  if (this < 0) {
      return -result
  } else {
      return result
  }
}

记住,负数的话需要转成整数处理,返回数的时候,判断一下处理的数是正数还是负数,正数返回正数,负数返回负数(将正数取反就可以了)。网络上的方法借鉴了一下。希望可以对小伙伴有一些借鉴。
引用: https://www.cnblogs.com/tonnytong/p/9327345.html

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值