javascript中的运算时存在问题的,下面以除法为例,仅供参考:
javascript中的除法问题:
计算一下:
8.80 * 100 * 12 / 100
结果:105.60000000000002
38.80也会出现类似的问题。
精确度增加10倍:
8.80 * 1000 * 12 / 1000
结果:105.6
正常了。
16.40 * 1000000 * 6 / 1000000
结果也有问题
为了让js执行的更准确,在以后的js小数计算中直接将值扩大10000倍,再除以10000,就可以解决问题。
var num = 38.80;
var num2 = 13;
alert(num * 10000 * 12 / 10000);
被乘和除的这个数经过测试10000最合适,小了有些数字出问题,大了(1000000)有些数字也出问题。
javascript中的除法问题:
计算一下:
8.80 * 100 * 12 / 100
结果:105.60000000000002
38.80也会出现类似的问题。
精确度增加10倍:
8.80 * 1000 * 12 / 1000
结果:105.6
正常了。
16.40 * 1000000 * 6 / 1000000
结果也有问题
为了让js执行的更准确,在以后的js小数计算中直接将值扩大10000倍,再除以10000,就可以解决问题。
var num = 38.80;
var num2 = 13;
alert(num * 10000 * 12 / 10000);
被乘和除的这个数经过测试10000最合适,小了有些数字出问题,大了(1000000)有些数字也出问题。
js 加减乘除计算的问题
最新推荐文章于 2024-08-22 19:52:30 发布
JavaScript中的浮点数计算存在精度问题,如8.80 * 100 * 12 / 100得出非预期结果105.60000000000002。通过将数值扩大10000倍再除以10000可以避免这种误差,例如num * 10000 * 12 / 10000确保38.80 * 12计算结果正确。选择10000作为倍数是因为小于这个值某些数字会出现问题,而大于1000000也可能导致其他数字的误差。
摘要由CSDN通过智能技术生成