js精度缺失原因及解决方法

js精度缺失原因

最常见的问题就是两个简单的浮点数进行相加不等于我们的计算结果:

0.1 + 0.2 !== 0.3 // true

这是因为计算机是采用二进制而不是十进制,所以当十进制的数字转化成二进制则变成了无限不循环的数,但是计算机可支持最大尾数位是52位,所以在模仿十进制的四舍五入后就造成了数据的精度缺失,导致计算错误。

解决方法

  • toFixed(),但是返回的结果是字符串形式,需要进行数字类型转化,并且进行四舍五入也并不是很精确,在涉及计算金额等十分严谨的情况时并不是很适用。
(0.1 + 0.2).toFixed(1);
  • 扩大倍数
    对于整数,前端出现问题的几率比较低,但是对于小数,前端出现问题的几率就相对来说要高一些,所以可以通过把小数位扩大放到整数位进行操作,操作完后再复原到原始大小。
((0.1 * 10) + (0.2 * 10)) / 10 === 0.3
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值