toFixed 函数引起的 bug,【干货】

本文探讨了JavaScript中的.toFixed()函数在不同浏览器中可能存在的行为差异,特别是在四舍五入方面的表现。文章指出Chrome和Firefox并不完全遵循银行家舍入法,而IE可能不符合ECMAScript规范。为了解决这个问题,作者提供了一个自定义的toFixed()方法,用于实现精确的四舍五入和自动补零功能。此外,还提及了一篇关于0.1+0.2不等于0.3问题的专栏文章,帮助读者更深入理解浮点数计算的挑战。
摘要由CSDN通过智能技术生成

toFixed()在chrome、火狐上也并不是网上所说的用银行家舍入法来进行四舍五入的。

银行家舍入法的规则是“四舍六入五考虑,五后非零就进一,五后为零看奇偶,五前为偶应舍去,五前为奇要进一”。

例如银行家舍入法在 (2.55).toFixed(1) = 2.5(3.55).toFixed(1) = 3.5 上就不符合了。

那为什么会这样呢,要从toFixed的定义说起,来看ecmascript 规范对toFixed的表述:

按上图中的步骤来演示一下(2.55).toFixed(1) = 2.5的处理过程。

x为2.55,小于 ,f为1,要使 准确的数学值尽可能接近零,取n为25和n为26,

可以看到最接近零的应该是 -0.04999… ,故n为25,那么m为25,k为2, 为1,故a为2,则b为5,所以(2.55).toFixed(1)的结果为2.5。可以看出(2.55).toFixed(1)的结果是2.5而不是2.6,是 … 引起,而 为什么不等于0.5,其原因和 不等0.3是

  • 21
    点赞
  • 21
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值