js计算小数点时不准确问题

出现原因解释来源:js浮点数运算不精确 如何解决_解决 浏览器处理数字运算时精度丢失的方法_weixin_39806388的博客-CSDN博客浏览器处理数字运算时精度丢失的方法为什么0.1 + 0.2 不等于0.3。因为计算机不能精确表示0.1, 0.2这样的浮点数,计算时使用的是带有舍入误差的数并不是所有的浮点数在计算机内部都存在舍入误差,比如0.5就没有舍入误差1.出现的原因计算机的二进制实现和位数限制有些数无法有限表示。就像一些无理数不能有限表示,如 圆周率 3.1415926...,1.3333... 等。JS 遵循 ...https://blog.csdn.net/weixin_39806388/article/details/111260881

简要:最近在写一个收银系统,会涉及到一些金额的计算,折旧避免不了小数点的计算。那问题就来了,浏览器在处理数字运算时会出现精度丢失的情况。情况如下图:

出现原因: 计算机不能准确表示某些浮点数,所以计算时使用的是带有舍入误差的数。计算机的二进制实现和位数限制有些数无法有限表示。例如:1.3333......等,JS 遵循 IEEE 754 规范,采用双精度存储(double precision),占用 64 bit

  • 1位用来表示符号位
  • 11位用来表示指数
  • 52位表示尾数

比如:

0.1 >> 0.0001 1001 1001 1001…(1001无限循环)0.2 >> 0.0011 0011 0011 0011…(0011无限循环)

此时只能模仿十进制进行四舍五入了,但是二进制只有 0 和 1 两个,于是变为 0 舍 1 入。这即是计算机中部分浮点数运算时出现误差,丢失精度的根本原因。

大整数的精度丢失和浮点数本质上是一样的,尾数位最大是 52 位,因此 JS 中能精准表示的最大整数是 Math.pow(2, 53),十进制即 9007199254740992。

9007199254740992 + 1 // 丢失9007199254740992 + 2 // 未丢失9007199254740992 + 3 // 丢失9007199254740992 + 4 // 未丢失

大于 9007199254740992 的可能会丢失精度,看似有穷的数字, 在计算机的二进制表示里却是无穷的,由于存储位数限制因此存在“舍去”,精度丢失就发生了

解决办法:现将小数扩大到整数倍,在缩小至小数

Math.round(mynumber * 100) / 100

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值