toFixed精度问题

1、问题:

使用toFixed保留小数,是四舍六入五取偶(即四舍六入五考虑,五后非零就进一,五后为零看奇偶,五前为偶应舍去,五前为奇要进一),但是项目要求采用四舍五入方法。

2、解决办法:

由于之前的页面开发中都是采用toFixed,替换原来的使用方法担心出问题。所以采用原型链改写toFixed方法。

1)number.js

// 重新写入 toFixed 方法
const numFunc = function (n) {
    if (n > 20 || n < 0) {
        throw new RangeError('toFixed() digits argument must be between 0 and 20');
    }
    const number = this;
    if (isNaN(number) || number >= Math.pow(10, 21)) {
        return number.toString();
    }

    if (typeof (n) == 'undefined' || n == 0) {
        return (Math.round(number)).toString();
    }
    let result = number.toString();
    const arr = result.split('.');
    // 整数的情况
    if (arr.length < 2) {
        result += '.';
        for (let i = 0; i < n; i += 1) {
            result += '0';
        }
        return result;
    }
    const integer = arr[0];
    const decimal = arr[1];
    if (decimal.length == n) {
        return result;
    }

    if (decimal.length < n) {
        for (let i = 0; i < n - decimal.length; i += 1) {
            result += '0';
        }
        return result;
    }
    result = integer + '.' + decimal.substr(0, n);
    const last = decimal.substr(n, 1);
    // 四舍五入,转换为整数再处理,避免浮点数精度的损失
    if (parseInt(last, 10) >= 5) {
        const x = Math.pow(10, n);
        result = (Math.round((parseFloat(result) * x)) + 1) / x;
        result = result.toFixed(n);
    }
    return result;
}
export default Number.prototype.toFixed = numFunc

 2)main.js中引入number.js文件

参考资料:js中toFixed精度问题的原因及解决办法 - 走看看

补充:经领导指导,export default Number.prototype.toFixed = numFunc这行最好写在main.js中,因为是全局修改,看的人会更清楚

  • 1
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
toFixed(2)是 JavaScript 中的一个方法,用于将数字保留指定的小数位数。当我们在使用toFixed(2)时,期望得到的结果应该是一个保留两位小数的数值。然而,在某些情况下,使用toFixed(2)可能会导致精度问题。 引用中的代码alert(parseFloat(10000.005*10000).toFixed(2))展示了一个可能出现精度问题的例子。这段代码的目的是将10000.005乘以10000,并保留两位小数。然而,由于浮点数的精度问题,最终结果并不如预期。 为了解决toFixed(2)的精度问题,引用给出了一个重定义toFixed(2)方法的例子。该方法通过正则表达式和数学运算来保证结果的精确性。但这种方法并不是官方推荐的解决方案。 另一种解决toFixed(2)精度问题的方式是先将小数乘以一个合适的倍数,然后再进行相应的操作。在引用的代码中,将11*(22.9*10)的结果除以10,得到了正确的结果。这种方法可以避免浮点数运算的精度问题。 综上所述,为了避免toFixed(2)的精度问题,我们可以尝试使用重定义方法或者将小数乘以一个合适的倍数再进行操作。<span class="em">1</span><span class="em">2</span><span class="em">3</span><span class="em">4</span> #### 引用[.reference_title] - *1* *4* [javascript小数乘法溢出、精确率问题 toFixed(2)完美解决](https://blog.csdn.net/beiwang/article/details/38068103)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_1"}}] [.reference_item style="max-width: 33.333333333333336%"] - *2* [js运算的精度问题](https://download.csdn.net/download/weixin_38602098/14044359)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_1"}}] [.reference_item style="max-width: 33.333333333333336%"] - *3* [toFixed(2)解决精度误差的方法](https://blog.csdn.net/weixin_42204641/article/details/84280381)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_1"}}] [.reference_item style="max-width: 33.333333333333336%"] [ .reference_list ]
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值