JS小数运算精度问题

在JS计算的时候,偶然发现一个奇怪的现象,如图:

这里写图片描述

百度发现: java和JavaScript中计算小数运算时,都会先将十进制的小数换算到对应的二进制,一部分小数并不能完整的换算为二进制,这里就出现了第一次的误差。

解决

1、js之间的整数运算都是正常的。所以先将数值乘以10的整数倍,变成整数运算,之后再将结果除以10的整数倍。如:

这里写图片描述

function add(num1, num2){
    const point1 = (num1.toString().split('.')[1] || '').length;
    const point2 = (num2.toString().split('.')[1] || '').length;
    
    const baseNum = Math.pow(10, Math.max(point1, point2));
    return (num1*baseNum + num2*baseNum)/baseNum;
}

2、第三方库

  1. Math.js

    官网:http://mathjs.org/

    GitHub:https://github.com/josdejong/mathjs

  2. big.js

    官网:http://mikemcl.github.io/big.js

    GitHub:https://github.com/MikeMcl/big.js/

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值