【面试题集—No.01】0.1+0.2 != 0.3

最新推荐文章于 2024-01-28 10:13:05 发布

Chailo.

最新推荐文章于 2024-01-28 10:13:05 发布

阅读量203

点赞数 1

分类专栏：面试 JavaScript基础文章标签： javascript

本文链接：https://blog.csdn.net/qq_51315315/article/details/120488917

版权

23 篇文章 0 订阅

订阅专栏

13 篇文章 0 订阅

订阅专栏

本文探讨了JavaScript中由于二进制浮点数表示导致的精度问题，例如0.1 + 0.2 不等于 0.3。解释了浮点数在内存中的存储方式，并提供了两种解决精度比较的方法：使用Number.EPSILON和数学运算技巧。通过提升数字精度再进行比较可以避免这类误差。

摘要由CSDN通过智能技术生成

因为计算机是采用二进制来存储的，现实中的数在存入计算机需转换为二进制，在这个过程中出现可能无法整除的情况，所以现实中的数转换为二进制并计算的过程中就可能产生误差。

JS 采用 IEEE 754 双精度版本（64位），六十四位中符号位占一位，整数位占十一位，其余五十二位都为小数位。

把十进制的0.1和0.2转换为二进制：

0.1 => 0.0001 1001 1001 1001…（1001无限循环）

0.2 => 0.0011 0011 0011 0011…（0011无限循环）

所以存储时：

0.1 => 0.0001 1001 1001 1001 1001 1001 1001 1001 1001 1001 1001 1001 1001

0.2 => 0.0011 0011 0011 0011 0011 0011 0011 0011 0011 0011 0011 0011 0011

0.1+0.2 => 0.0100 1100 1100 1100 1100 1100 11001 100 1100 1100 1100 1100 1100

转换为十进制就是：0.30000000000000004 即，0.1+0.2 != 0.3

1.ES6提供的Number.EPSILON方法

function numberSequal(a,b){ 
	return Math.abs(a-b)<Number.EPSILON;
} 
let a=0.1+0.2;
let	b=0.3;
console.log(numberSequal(a,b)); //true

2.把计算数字提升 10 的N次方倍再除以 10的N次方。

let a=(0.1*1000+0.2*1000)/1000;
let b=0.3;
console.log(a===b);		//true

参考文章：js解决0.1+0.2==0.3的问题的几种方法-CSDN博客

https://segmentfault.com/a/1190000015051329

关注

专栏目录