toFixed精度不准问题

toFixed精度不准问题

首先toFixed并不是网上说的使用银行家舍入法(四舍五入,五看奇偶)原则

​ 如想了解银行家舍入法,在文章末尾

1、问题描述:

测试以下例子可见:toFixed()不是四舍五入,也不是银行家舍入法,所得结果不准确,不是我们想要的

    console.log(3.1349046546.toFixed(2))  // 3.13,当舍去位的数值 <  5时,直接舍去
    console.log(3.1369046546.toFixed(2))  //3.14,当舍去位的数值 >= 6时,在舍去的同时向前进一位 
    console.log(3.1351.toFixed(2) ) //3.14,当舍去位的数值  = 5时,后不为空且不全为0,舍去的同时向前进一位
    console.log(3.1350000000000001.toFixed(2))  //3.14,当舍去位的数值  = 5时,后不为空且不全为0,舍去的同时向前进一位
    console.log('++++++++++++++++++++++++++')
   //当舍去位的数值  = 5时,5后为空或全为0,5前数值为奇数,并没有全部向前进一位,只有1向前进了一位
    console.log(3.115.toFixed(2))  //3.12
    console.log(3.135.toFixed(2))  //3.13
    console.log(3.155.toFixed(2))  //3.15
    console.log(3.175.toFixed(2))  //3.17
    console.log(3.195.toFixed(2))  //3.19
    console.log(3.1150.toFixed(2))  //3.12
    console.log(3.1350.toFixed(2))  //3.13
    console.log(3.1550.toFixed(2))  //3.15
    console.log(3.1750.toFixed(2))  //3.17
    console.log(3.1950.toFixed(2))  //3.19
    console.log('++++++++++++++++++++++++++')
    //当舍去位的数值 ) = 5时,5后为空或全为0,5前数值为偶数,并没有全部舍去
    console.log(3.105.toFixed(2)) //3.10
    console.log(3.125.toFixed(2)) //3.13
    console.log(3.145.toFixed(2)) //3.15
    console.log(3.165.toFixed(2)) //3.17
    console.log(3.185.toFixed(2)) //3.19
    console.log(3.1050.toFixed(2))  //3.10
    console.log(3.1250.toFixed(2))  //3.13
    console.log(3.1450.toFixed(2))  //3.15
    console.log(3.1650.toFixed(2))  //3.17
    console.log(3.1850.toFixed(2))  //3.19

结果如下图:

在这里插入图片描述

2、解决方案:

方法一:自行封装函数
(1)直接在原型上修改,仍然使用原调用方式

 data() {
    Number.prototype.toFixed= function (exponent) {
      console.log(123)
      return parseInt(this * Math.pow(10, exponent) + 0.5) / Math.pow(10, exponent);
    }
    return {}
  },

(2)使用方法调用

function toFixed(num, s) {
    var times = Math.pow(10, s)
    var des = num * times + 0.5
    des = parseInt(des, 10) / times
    return des + ''
}

此方法是从网上粘贴的,如有需要可 自行百度封装方法

方法二:使用Math.round()代替

例如:

​ 保留两位小数:Math.round(15.7784514000 * 100) / 100 ===》15.78

​ 保留三位小数:Math.round(15.7784514000 * 1000) / 1000 ===》15.778

Math.round()是四舍五入到最接近的整数:该例子也就是先乘以10的n次方,然后四舍五入,然后除以10的n次方

小数乘法也会存在精度问题,具体讲解可以看我的另一篇文章js小数运算精度丢失问题 但是这里能满足需求了

银行家舍入法:

其实质是一种【四舍六入五取偶】的方法。
规则是:

 当舍去位的数值 <  5时,直接舍去
 当舍去位的数值 >= 6时,在舍去的同时向前进一位
 当舍去位的数值  = 5时:
		(1)5后不为空且不全为0,在舍去的同时向前进一位
		(2)5后为空或全为0:
			    ① 5前数值为奇数,则在舍去的同时向前进一位
			    ② 5前数值为偶数,则直接舍去

在这里插入图片描述

  • 0
    点赞
  • 5
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
toFixed(2)是 JavaScript 中的一个方法,用于将数字保留指定的小数位数。当我们在使用toFixed(2)时,期望得到的结果应该是一个保留两位小数的数值。然而,在某些情况下,使用toFixed(2)可能会导致精度问题。 引用中的代码alert(parseFloat(10000.005*10000).toFixed(2))展示了一个可能出现精度问题的例子。这段代码的目的是将10000.005乘以10000,并保留两位小数。然而,由于浮点数的精度问题,最终结果并不如预期。 为了解决toFixed(2)的精度问题,引用给出了一个重定义toFixed(2)方法的例子。该方法通过正则表达式和数学运算来保证结果的精确性。但这种方法并不是官方推荐的解决方案。 另一种解决toFixed(2)精度问题的方式是先将小数乘以一个合适的倍数,然后再进行相应的操作。在引用的代码中,将11*(22.9*10)的结果除以10,得到了正确的结果。这种方法可以避免浮点数运算的精度问题。 综上所述,为了避免toFixed(2)的精度问题,我们可以尝试使用重定义方法或者将小数乘以一个合适的倍数再进行操作。<span class="em">1</span><span class="em">2</span><span class="em">3</span><span class="em">4</span> #### 引用[.reference_title] - *1* *4* [javascript小数乘法溢出、精确率问题 toFixed(2)完美解决](https://blog.csdn.net/beiwang/article/details/38068103)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_1"}}] [.reference_item style="max-width: 33.333333333333336%"] - *2* [js运算的精度问题](https://download.csdn.net/download/weixin_38602098/14044359)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_1"}}] [.reference_item style="max-width: 33.333333333333336%"] - *3* [toFixed(2)解决精度误差的方法](https://blog.csdn.net/weixin_42204641/article/details/84280381)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_1"}}] [.reference_item style="max-width: 33.333333333333336%"] [ .reference_list ]
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值