【JavaScript】浮点数精度问题

浮点数精度问题

JavaScript 中整数和浮点数都属于 number 数据类型，所有数据都是以 64 位浮点数的形式存储。所以打印 1.00 的结果是 1 而不是 1.00 。

运算结果判断

console.log(0.1 + 0.2 === 0.3)  // false

加减乘除都会有这样的问题。

小数乘以 10 的 n 次方取整

console.log(parseInt(0.58 * 100, 10)) //输出 57

四舍五入保留 n 位小数

// 四舍五入保留 n  位小数
console.log((1.335).toFixed(2)) // 输出 1.33

为什么会有这个问题

十进制利用辗转相除的方法可以准确转为二进制，而浮点数不是这样。

为了更好地理解浮点数精度问题，我们需要了解以下几个方面：

1. IEEE 754标准：
   JavaScript（几乎所有编程语言都是）采用IEEE 754标准来表示浮点数。根据该标准，浮点数被分为单精度（32位）和双精度（64位），分别对应float和double数据类型。JavaScript中的所有浮点数都是双精度浮点数。

2. 二进制表示：
   在计算机中，浮点数以二进制形式存储。由于浮点数采用二进制表示，某些十进制小数无法准确转换为二进制表示。例如，0.1在二进制中是一个无限循环的小数0.0001100110011…，在存储时会进行截断。

3. 精度损失：
   由于二进制表示的限制，一些十进制小数在转换为浮点数后会存在精度损失。这意味着在进行浮点数计算时，结果可能会与预期的结果有微小的差异。例如：

   console.log(0.1 + 0.2); // 输出：0.30000000000000004
   

   // 整数也存在精度问题
   console.log(19571992547450991 === 19571992547450992)  // true
   

4. 舍入误差：
   在浮点数计算中，舍入误差也会导致精度问题。由于浮点数的表示范围有限，对于超出表示范围的数值，计算机会进行舍入。这可能导致结果与预期不符。例如：

   console.log(0.1 + 0.2 === 0.3); // 输出：false
   

5. 解决方法：
   虽然浮点数精度问题无法完全避免，但我们可以采取一些策略来减小精度损失的影响：

   • 尽量避免使用浮点数进行精确比较，而是使用范围或误差判断。
   • 使用整数进行计算，然后将结果转换回浮点数。
   • 使用专门的库或函数来处理精确计算，如BigDecimal或BigInt。

6. 存储原理

   双精度的浮点数在这64位上划分为3段，而这3段也就确定了一个浮点数的值，64bt的划分是“1-11-
   52"的模式，具体来说：
   Eaucat

   • 就是1位最高位（最左边那一位）表示符号位，0表示正，1表示负；
   • 11位表示指数部分：
   • 52位表示尾数部份，也就是有效域部分；