从以下两个问题带你深入了解浮点型
前置常识:
由于 JavaScript 采用 IEEE 754 标准,数值存储为64位双精度格式,
数值精度最多可以达到 53 个二进制位(1 个隐藏位与 52 个有效位)
小数的精度达到了小数点后16个十进制位,所以15位后的被丢弃了
小数点后15位长度以内为准确范围
0.1 + 0.2 = 0.3 吗 ?
0.1 + 0.2; // 0.30000000000000004
0.1 + 0.2 === 0.3 ;// false
可以看到打印结果似乎跟我们预想的不太一样
结果并不是 0.3 而是小数点后多了17位的浮点数,且相加并不等于0.3 😂
那我们日常开发需要用到判断浮点数相等怎么办呢?,别急还是有办法的🐶
我们定义一个误差检查函数⬇️
function withinErrorMargin(left: number, right: number): boolean {
return Math.abs(left - right) < Number.EPSILON * Math.pow(2, 2);
}
0.1 + 0.2 === 0.3; // false
withinErrorMargin(0.1 + 0.2, 0.3); // true
大功告成🎉
3.0000000000000002是整数吗?
以下两种方法都告诉我们同一个结果,他是个整数,但事实确实如此吗?😂
Number.isInteger(3.0000000000000002);// true
3.0000000000000002 % 1 === 0;// true
仔细观察我们可以发现小数点后竟然达到了17位,早已超过15位安全范围
到这里可能会有人想了,可不可以将其化为字符串然后进行逻辑处理呢?
我们来试一试😁
// holy shit, what the f**K ?
3.0000000000000002.toString();// 3
'' + 3.0000000000000002; // 3
将其字符串后结果为3,显然行不通 😂😂😂😂😂
推荐解决方案
npm i yjr-utils
pnpm i yjr-utils
yarn add yjr-utils
使用里面的浮点型计算方法
import { preciseCalculation } from 'yjr-utils';
// 未处理前 0.1 + 0.2 = 0.30000000000000004
preciseCalculation(0.1, 0.2,'+') => 0.3;
// 未处理前 12.69 + 0.2 = 12.889999999999999
preciseCalculation(12.69, 0.2,'+') => 12.89;
// 未处理前 0.8 - 0.1 = 0.7000000000000001
preciseCalculation(0.8, 0.1,'-') => 0.7;
// 未处理前 0.1 * 0.2 = 0.020000000000000004
preciseCalculation(0.1, 0.2, '*'); // 0.02;
// 未处理前 0.6 / 0.2 = 2.9999999999999996
preciseCalculation(0.6, 0.2, '/'); // 3;