- 博客(1)
- 收藏
- 关注
原创 [JavaScript] js字符串转数字长度限制|超过长度有误差
服务端使用长整型(Int64)的数字,在浏览器端使用JS的number类型接收时,当这个实际值超过 (2^53-1)时,JS变量的值和实际值就会出现不相等的问题。小数进行算术运算时,实质上就是把十进制的浮点数转化为二进制,这样的结果是无穷的,JS最多有2的53次方有效数字,并不是精准的,所以再进行运算时会失准。JS引擎中第一位为符号位,第二位到第十二位为指数位,数字位只剩最后52位(其中还有一位隐藏,实际53位),详情见下方链接。最后看一下处理大数字(超出范围)的方法及避免精度丢失的方法。
2023-05-06 14:25:47 898 1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人