javascript:今天来聊一聊js中的浮点型(float)

从以下两个问题带你深入了解浮点型


前置常识:
由于 JavaScript 采用 IEEE 754 标准,数值存储为64位双精度格式,
数值精度最多可以达到 53 个二进制位(1 个隐藏位与 52 个有效位)
小数的精度达到了小数点后16个十进制位,所以15位后的被丢弃了
小数点后15位长度以内为准确范围

0.1 + 0.2 = 0.3 吗 ?

 0.1 + 0.2; // 0.30000000000000004
 0.1 + 0.2 === 0.3 ;// false

可以看到打印结果似乎跟我们预想的不太一样
结果并不是 0.3 而是小数点后多了17位的浮点数,且相加并不等于0.3 😂

那我们日常开发需要用到判断浮点数相等怎么办呢?,别急还是有办法的🐶
我们定义一个误差检查函数⬇️

function withinErrorMargin(left: number, right: number): boolean {
  return Math.abs(left - right) < Number.EPSILON * Math.pow(2, 2);
}

0.1 + 0.2 === 0.3; // false

withinErrorMargin(0.1 + 0.2, 0.3); // true

大功告成🎉

3.0000000000000002是整数吗?

以下两种方法都告诉我们同一个结果,他是个整数,但事实确实如此吗?😂

Number.isInteger(3.0000000000000002);// true
3.0000000000000002 % 1 === 0;// true

仔细观察我们可以发现小数点后竟然达到了17位,早已超过15位安全范围

到这里可能会有人想了,可不可以将其化为字符串然后进行逻辑处理呢?

我们来试一试😁

// holy shit, what the f**K ?
3.0000000000000002.toString();// 3
'' + 3.0000000000000002; // 3

将其字符串后结果为3,显然行不通 😂😂😂😂😂

推荐解决方案

npm i yjr-utils

pnpm i yjr-utils

yarn add yjr-utils

使用里面的浮点型计算方法

import { preciseCalculation } from 'yjr-utils';

// 未处理前 0.1 + 0.2 = 0.30000000000000004
preciseCalculation(0.1, 0.2,'+') => 0.3;

// 未处理前 12.69 + 0.2 = 12.889999999999999
preciseCalculation(12.69, 0.2,'+') => 12.89;

// 未处理前 0.8 - 0.1 = 0.7000000000000001
preciseCalculation(0.8, 0.1,'-') => 0.7;

// 未处理前 0.1 * 0.2 = 0.020000000000000004
preciseCalculation(0.1, 0.2, '*'); // 0.02;

// 未处理前 0.6 / 0.2 = 2.9999999999999996
preciseCalculation(0.6, 0.2, '/'); // 3;
  • 5
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值