js中精度丢失问题

在js中0.1+0.2!==0.3,一直知道这个问题是js中精度丢失的问题造成的,但是不知道是怎么丢失的,这个的运算过程又是怎样的,下面就来具体看下这个计算过程是怎样造成精度丢失的。

第一次精度丢失

首先了解在js中保存数字都是按照IEEE754标准来表示数字的,IEEE754是一种国际标准,用于二进制浮点数的表示,取舍的规则。所以将0.1和0.2转化成二进制这里就造成了一次精度丢失。
先看一下0.1和0.2转成为二进制是什么样的。小数转二进制是采用"乘2取整"的方式进行转换的,

  1. 0.1转化为二进制为0.000110011001100(无限循环)
  2. 0.2转化为二进制为0.00110011001100(无限循环)

因为转成二进制后是无限循环小数,计算机在存储的时候会存储为一个近似值,所以在转二进制这个过程中就造成了精度丢失。

第二次精度丢失

转化为二进制的数字相加;
转成二进制相加的过程,在IEEE754的标准中,浮点数要采用科学计数法计数,0.1的二进制采用科学计数法表示为1.10011001100…×2(-4),0.2的二进制采用科学计数法表示为1.10011001100…×2(-3),为了进行二进制加法,需要将两个数的指数部分对齐。为了使二者小数点对齐,所以0.1需要小数点需要向后移动一位,在这个过程中也会造成一次精度丢失,两者相加的值为0.0100110011…,同样是一个无限循环小数。然后再将这个二进制小数转成十进制。

总结

其实在相加的过程中转成二进制,然后在相加,在这个过程中经历了两次精度丢失的问题,最后得到的结果只是一个近似值。

如何解决

1.先扩大相对应倍数,得到结果后在除以对应的倍数,这样就可以得到正确的结果
2.使用toFixed()
代码如下
注意使用toFixed是可以得到0.3的,但是运行结果还是false的原因是得到的结果是String类型的,而0.3是Number的,所以===为false。

console.log(0.1 + 0.2 === 0.3); //false

console.log((0.1 * 10 + 0.2 * 10) / 10 === 0.3); //true

console.log((0.1 + 0.2).toFixed(1) === 0.3); //false
  • 2
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值