简要:最近在写一个收银系统,会涉及到一些金额的计算,折旧避免不了小数点的计算。那问题就来了,浏览器在处理数字运算时会出现精度丢失的情况。情况如下图:
出现原因: 计算机不能准确表示某些浮点数,所以计算时使用的是带有舍入误差的数。计算机的二进制实现和位数限制有些数无法有限表示。例如:1.3333......等,JS 遵循 IEEE 754 规范,采用双精度存储(double precision),占用 64 bit
- 1位用来表示符号位
- 11位用来表示指数
- 52位表示尾数
比如:
0.1 >> 0.0001 1001 1001 1001…(1001无限循环)0.2 >> 0.0011 0011 0011 0011…(0011无限循环)
此时只能模仿十进制进行四舍五入了,但是二进制只有 0 和 1 两个,于是变为 0 舍 1 入。这即是计算机中部分浮点数运算时出现误差,丢失精度的根本原因。
大整数的精度丢失和浮点数本质上是一样的,尾数位最大是 52 位,因此 JS 中能精准表示的最大整数是 Math.pow(2, 53),十进制即 9007199254740992。
9007199254740992 + 1 // 丢失9007199254740992 + 2 // 未丢失9007199254740992 + 3 // 丢失9007199254740992 + 4 // 未丢失
大于 9007199254740992 的可能会丢失精度,看似有穷的数字, 在计算机的二进制表示里却是无穷的,由于存储位数限制因此存在“舍去”,精度丢失就发生了
解决办法:现将小数扩大到整数倍,在缩小至小数
Math.round(mynumber * 100) / 100