JavaScript 浮点数运算的精度问题

在JavaScript中处理二进制浮点数最大的问题会出现如下情况:

 0.1 + 0.2 === 0.3;  // false

在数学角度 上面的判断应该为true,可结果为什么为false?
二进制浮点数中0.1和0.2并不是十分精确,它们相加等于一个比较接近的数字 0.30000000000000004 ,所以结果为false。

我最常见的处理 0.1 + 0.2 和 0.3 是否相等的方法就是去设置一个误差范围值,通常称为 ”机器精度“,对javaScript数字来说,这个值通常是 2.220446049250313e-16 。

从es6开始,该值定义在Number.EPSILON中。

if( !Number.EPSILON ){
  Number.EPSILON = Math.pow( 2, -52 );
}
function numbersEqual ( n1, n2 ) {
  return Math.abs( n1 - n2 ) < Number.EPSILON;
}
var a = 0.1 + 0.2;
var b = 0.3
numbersEqual( a, b );  // true 
numbersEqual( 0.000001, 0.000002 );  // false
  • Number.MAX_VALUE // js 中最大的数 1.7976931348623157e+308
  • Number.MIN_VALUE // js 中最小的数 (无限接近于0的非负数) 5e-324

参考链接1:JavaScript 浮点数运算的精度问题 - 知乎

参考链接2:JavaScript 浮点数判断是否相同 - 简书

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值