计算精度丢失:
js小数计算精度丢失问题
问题描述:
写了这么久的代码,精度丢失的问题终于也让我遇上了,也是挺不容易的啊。前端使用js在做加减计算时,发现出现了一个-0.00的情况,最开始没反应过来问题在哪,后面意识到是精度问题。
当用number进行计算时,计算结果不一定会准确,例如3.22-3.21 计算结果并不等于0.01
alert(3.22-Number(3.21))
结果是这个:0.010000000000000231
经过多次测试,并不是每一次都会出现精度丢失。
解决方案:
经过参考Java的bigdecimal数据类型的加减处理方式,可以先把小数转换为整数,计算完成后,再把整数转换为小数、
alert((Number(3.22)*100-Number('3.21')*100)/100)