JavaScript的高精度计算与JSON.parse的BIGINT

在JavaScript处理整数的时候会遇到某些特别奇怪的问题,比如后台给你返回了一个超长的数字,然后js在计算的时候突然发现计算不对,不是后面为0就是计算得不到想要的结果.这里涉及到一个很简单的知识 也就是NUMBER的安全整数.

Number安全整数

Number.MAX_SAFE_INTEGER // 9007199254740991
9007199254740991+2 // 9007199254740992 

首先我们拿到了安全范围内的数字 然后对他进行简单的加法,正常的结果应该是9007199254740993 但是这里的尾数只有2, 大家可以去测试一下也是挺有意思的。因为js中所有的整数都是用浮点类型(double-precision 64-bit binary format IEEE 754 value)导致的,虽然可以承受的范围比较大,但是计算精度却不怎么好

计算精度

说完了安全整数这里来简单说说计算精度

0.1+0.2 //0.30000000000000004 

原理也是同上 那么解决办法也很简单

使用math.js库即可解决</

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值