javascript数字类型(Number)不精确问题

js 专栏收录该内容
11 篇文章 0 订阅

JavaScript中所有的数字,无论是整数还是小数,其类型均为Number。在程序内部,Number类型的实质是一个64位的浮点数,这与Java中double类型的浮点数是一致的;因此,JavaScript中所有的数都是浮点数。遵循IEEE 754标准(浮点数算术标准),JavaScript所能表示的数值范围为正负1.7976931348623157乘以10的308次方到,其最小所能表示的小数为正5乘以10的负324次方,这两个边界值可以分别通过访问Number对象的MAX_VALUE属性和MIN_VALUE属性来获取。

对于整数,根据ECMAScript标准的要求(地址),JavaScript能表示并进行精确算术运算的整数范围为:正负2的53次方,也即从最小值-9007199254740992到最大值+9007199254740992之间的范围;对于超过这个范围的整数,JavaScript依旧可以进行运算,但却不保证运算结果的精度。值得注意的是,对于整数的位运算(比如移位等操作),JavaScript仅支持32位整型数,也即从-2147483648到+2147483647之间的整数。整数值超出-9007199254740992到9007199254740992的范围时,不用运算也会发生偏差;

实验

显示JavaScript的最大数、最小小数、安全整数范围:

//谷歌浏览器运行及结果
console.log(Number.MAX_VALUE); //1.7976931348623157e+308
console.log(Number.MIN_VALUE); //5e-324
console.log(Number.MAX_SAFE_INTEGER); //9007199254740991
console.log(Number.MIN_SAFE_INTEGER); //-9007199254740991

对正负2的53次方范围以外的整数,JavaScript无法给出精确的计算结果:

//谷歌浏览器
var a = 9007199254740992;
console.log(a+3);  //9007199254740996

正确的运算结果应该是9007199254740995,但JavaScript给出的计算结果却是9007199254740996。尝试改变计算公式后可以发现,只要整数大于9007199254740992,这种计算结果的错误将频繁出现。如果说计算精度的偏差尚可接受的话,那么下面这个例子的后果就更严重了:

var MAX_INT = 9007199254740992;
for (var i = MAX_INT; i < MAX_INT + 2; ++i) {
  // infinite loop
}

由于计算精度问题,上面的for语句将陷入死循环。

对于位运算,JavaScript仅支持32位整型数:

//谷歌浏览器
var smallInt = 256; 
var bigInt = 2200000000;
console.log(smallInt / 2);  //128
console.log(smallInt >> 1); //128
console.log(bigInt / 2);    //1100000000
console.log(bigInt >> 1);   //-1047483648

可以看到,对于32位以内的整数(256),JavaScript可以进行正确的位运算,所得结果与除法运算的结果一致(128)。而对于32位以外的整数,JavaScript可以进行正确的除法运算(1100000000),但进行位运算后所得结果却与正确结果相去甚远(-1047483648)。

如果后端传递给前段较长的long型,只能转成字符串,否则都会出现不精确情况

//谷歌浏览器
var a=201906189100780004;
console.log(a);  //201906189100780000

var b='201906189100780004';
console.log(b);  //201906189100780004

如上所示,在赋值阶段已经出现精度损失,通过字符串来保证精度

当然js的所有浮点计算也和其他语言一样也不精确的,无论数值的大小,因此不能用于任何精确计算,例如:钱

//谷歌浏览器
console.log(1.24*4.9); //6.0760000000000005

以上乘法运算结果毫无争议的为6.076,js运算结果出现偏差

整理不易,感谢赞赏~~~

 

  • 2
    点赞
  • 0
    评论
  • 3
    收藏
  • 打赏
    打赏
  • 扫一扫,分享海报

©️2022 CSDN 皮肤主题:书香水墨 设计师:CSDN官方博客 返回首页

打赏作者

椰汁菠萝

你的鼓励将是我创作的最大动力

¥2 ¥4 ¥6 ¥10 ¥20
输入1-500的整数
余额支付 (余额:-- )
扫码支付
扫码支付:¥2
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、C币套餐、付费专栏及课程。

余额充值