js计算精度丢失

计算精度丢失:

js小数计算精度丢失问题


问题描述:

写了这么久的代码,精度丢失的问题终于也让我遇上了,也是挺不容易的啊。前端使用js在做加减计算时,发现出现了一个-0.00的情况,最开始没反应过来问题在哪,后面意识到是精度问题。
当用number进行计算时,计算结果不一定会准确,例如3.22-3.21 计算结果并不等于0.01

alert(3.22-Number(3.21))

结果是这个:0.010000000000000231
经过多次测试,并不是每一次都会出现精度丢失。


解决方案:

经过参考Java的bigdecimal数据类型的加减处理方式,可以先把小数转换为整数,计算完成后,再把整数转换为小数、

alert((Number(3.22)*100-Number('3.21')*100)/100)
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值