javascript 自身在浮点计算上存在缺陷
40*0.1 + 37*0.9 = 37.300000000000004
修正方式
40/10 + 37*9/10 = 37.3
其实就是将浮点数转换成多次整数计算,整数计算本身没有问题。
javascript 自身在浮点计算上存在缺陷
40*0.1 + 37*0.9 = 37.300000000000004
修正方式
40/10 + 37*9/10 = 37.3
其实就是将浮点数转换成多次整数计算,整数计算本身没有问题。
转载于:https://www.cnblogs.com/TCrow/p/3160279.html