小数运算精度处理

昨天写完需求准备跑路,没想到出现了bug,经过二次测试,发现了问题所在。简单举个例子。

产生原因: 在 JavaScript 中整数和浮点数都属于 Number 数据类型,所有数字都是以 64 位浮点数形式储存,即便整数也是如此.

十进制的0.10.2都会被转换成二进制,但由于浮点数用二进制表达时是无穷的, 导致了精度问题.

解决方案:  

1. 先把需要运算的小数扩大成整数,运算后在缩小相同倍数。
2.使用toFixed()

 

注意两种方法拿到的最终数据的数据类型

 由于本人能力有限,有不足之处,多多谅解。欢迎留言指导。

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值