例子:
console.log(0.1+0.2) // 结果0.30000000000000004 而不是0.3
原因:
在计算机中数字无论是定点数还是浮点数都是以多位二进制的方式进行存储的。
在JS中数字采用的IEEE 754的双精度标准进行存储(存储一个数值所使用的二进制位数比较多,精度更准确)
解决办法
想办法规避掉这类小数计算时的精度问题就好了,那么最常用的方法就是将浮点数转化成整数计算。因为整数都是可以精确表示的。
0.1+0.2 => (0.1*10+0.2*10)/10
例子:
console.log(0.1+0.2) // 结果0.30000000000000004 而不是0.3
原因:
在计算机中数字无论是定点数还是浮点数都是以多位二进制的方式进行存储的。
在JS中数字采用的IEEE 754的双精度标准进行存储(存储一个数值所使用的二进制位数比较多,精度更准确)
解决办法
想办法规避掉这类小数计算时的精度问题就好了,那么最常用的方法就是将浮点数转化成整数计算。因为整数都是可以精确表示的。
0.1+0.2 => (0.1*10+0.2*10)/10