7 0.1+0.2 != 0.3

本文探讨了JavaScript中二进制小数表示的局限性,0.1和0.2相加结果并非0.3,揭秘了64位浮点数精度导致的误差。通过设置误差范围和使用Number.EPSILON进行比较,解释了为何两者之和微小偏差。
摘要由CSDN通过智能技术生成

0.1的二进制表示为0.000110011001100...         1100循环

0.2的二进制表示为0.00110011001100...                1100循环

js存储二进制小数一共有64位,第一位表示正负,0为正,1为负

接下来11为表示指数

最后52位表示小数

所以0.1和0.2最多保留有效数字为52+1=53位

加起来的0.3转换成十进制就是 0.30000000000000004

解决的方法:

设置一个误差范围,成为“机器精度” ,在ES6中提供了Number.EPSILON属性,值为2^(-52),当 0.1 + 0.2 - 0.3< Number.EPSILON时,即可判断 0.1 + 0.2 === 0.3

function numberepsilon(arg1,arg2){
    return Math.abs(arg1-arg2) < Number.EPSILON;
}
console.log(numberepsilon(0.1+0.2,0.3))//true

 

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值