JS精度问题 0.1+0.2为什么不等于0.3

本文详细介绍了JavaScript中数字类型的存储方式,基于IEEE754标准的双精度浮点数格式。通过案例分析了24、0.125和0.1的二进制表示,揭示了小数在二进制下存储的特殊性,特别是0.1和0.2转换为二进制时的无限循环,导致在计算机中存储时的精度损失,进而影响数字运算的准确性。
摘要由CSDN通过智能技术生成

前置知识:

  1. 存储方式:输入一个数字,计算机是以二进制的方式存储的。
  2. 存储格式:JavaScript数字类型Nubmer使用的是IEEE754标准的-双精度(64位)。格式如下:

第0位是符号位,0表示正数,1表示负数;

第1位到第11位是指数位;

第12位到第63位是小数位;

本质上是用科学计数法来存储数据的,这样的好处是:数字越大,用科学计数法越能节约空间。(比如十进制:10.24->1.024×10的1次方,  11024->1.024×10的2次方,102400000->1.24×10的8次方 )但是计算机使用二进制的科学计数法来存储的,非十进制科学计数法。

-----------------------------------------------------------------------------------------------------------

案例一:十进制24存储

十进制

二进制

二进制科学计数法

24

11000

1.1×2的4次方

注意:这里不是10的4次方,而是2的4次方,因为是二进制。

所以对于24,符号为0,指数位为:4(二进制100),小数位为1.1。

案例二:十进制0.125存储

十进制

二进制

二进制科学计数法

0.125

0.001

1×2的-3次方

0.125从十进制转换为二进制转换方法(乘2取整法):

0.125×2=0.25   整数部分是0

0.25×2=0.5     整数部分是0

0.5×2=1.0      整数部分是1   没有小数了结束

所以  十进制0.125转化为二进制 0.001

案例三:十进制0.1存储

同样的办法我们试一下十进制的0.1

0.1×2=0.2,整数部分是0

0.2×2=0.4,整数部分是0

0.4×2=0.8,整数部分是0

0.8×2=1.6,整数部分是1

0.6×2=1.2,整数部分是1

0.2×2=0.4,整数部分是0  红色部分循环了(0110)

….

即:0.00 0110 0110 0110 0110 0110 0110 0110 0110 0110 0110 0110 0110 0110…

现在按二进制科学计数法只保留小数后52位

1.10 0110 0110 0110 0110 0110 0110 0110 0110 0110 0110 0110 0110 01 × 2-4

十进制

二进制

二进制科学计数法

0.1

0.0001100110…

1.10011…*2的-4次方

同样

十进制

二进制

二进制科学计数法

0.2

0.001100110…

1.10011…*2的-3次方

我们发现0.1和0.2转成二进制是无限循环的,所以用IEEE754标准来表示数字的话肯定会出现后续的位置无法存储进去的问题。因为指数位只有11位,有效数只有52位。所以计算机只能取一个近似的数字,这样0.1和0.2相加以后再转换成十进制就已经不是纯正的0.3了。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值