JS浮点数运算结果准确度解决

经常发现在javascript中,浮点数的运算会出现一些奇怪的结果。比如:
0.02*1020=20.400000000000002
0.1+0.2=0.30000000000000004
这是因为有些数字转换为二进制之后是一段无限循环的数字,对无限循环的数据计算机会进行舍入处理。舍入处理之后再进行计算就会出现一些不准确的答案。

解决思路一:toFixed(num)。在某些场景中可以使用toFixed(num)四舍五入保留指定个数的小数来解决这一问题。

解决思路二:将小数转换为不需要计算机进行舍入处理的整数(乘以10的n次幂),运算之后再除以等值的10的N阶次方。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值