JS数值类型的两个坑,你踩过没?

JS数值类型的两个坑,你踩过没?

几乎大部分语言都存在浮点数运算精度的问题,只是它们在底层就处理好了,而js则没有被默认处理,稍不留神就引发问题,详见如下。

坑一、浮点数运算精度问题, 0.1 + 0.2 != 0.3

 
  1. console.log(0.1 + 0.2); // 期望值:0.3 实际值:0.30000000000000004
  2. console.log(1 - 0.7); // 期望值:0.3 实际值:0.30000000000000004
  3. console.log(0.1 * 0.2);// 期望值:0.02 实际值:0.020000000000000004
  4. console.log(0.029 / 10); // 期望值:0.0029 实际值:0.0029000000000000002

分析以及解决: 分析:计算时,计算机会将0.1、0.2 转化为二进制,于是分别得到类似 0.0001100110011(无限循环..)、0.001100110011(无限循环..)的二进制,双精度浮点数的小数部分最多支持 52 位,所以两者相加之后得到这么一串 0.0100110011001100110011001100110011001100110011001100 因浮点数小数位的限制而截断的二进制数字,这时候,我们再把它转换为十进制,就成了 0.30000000000000004。 解决: 最简单的方法,

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值