保留小数位数的时候出现0000000001

 

  1. // 关于js失精算法你都遇到哪些,让我们一起来细数一下吧  
  2. console.log(0.07*100); // 7.000000000000001  
  3.  
  4.   
  5. console.log(0.1+0.2); // 0.30000000000000004  
  6.   
  7.   
  8. // ........  

 

事实上,0.1 + 0.2 这这样的 0.1000000000000000055511151231257827021181583404541015625 + 0.200000000000000011102230246251565404236316680908203125 = 0.3000000000000000444089209850062616169452667236328125

这也是造成计算失精的主要原因。

 

wiki:https://en.wikipedia.org/wiki/IEEE_floating_point#Basic_formats

 

oracle失精算法专栏:http://docs.oracle.com/cd/E19957-01/806-3568/ncg_goldberg.html

 

解决方案:

如果是取整数,我们可以这样:

 

 

  1. Math.round((0.07*100))  

 

需要保留小数的,我们可以这样:

 

 

  1. parseFloat((0.07*100).toPrecision(12)) // = 7  
  2.   
  3.   
  4. parseFloat((0.01+0.02).toPrecision(12)) // = 0.03  
  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Embrace924

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值