JS problem of float about calculation 小数运算精度问题解决方案

JS在有小数存在的加减乘除运算中,会出先精度问题
解决办法是将小数变为整数(乘一个整数),然后再去运算,最后再除相同的整数
例子:1.11 * 2.331
(1.1 * 10) * (2.331 * 1000) / 10 / 1000

完整的方法

      numCalculate(num1,num2,opreation) {
        let length1=0
        let length2=0
        let numStr1 = num1.toString()
        if(numStr1.indexOf('.')>0){
          length1 = numStr1.split('.')[1].length
        }
        let numStr2 = num2.toString()
        if(numStr2.indexOf('.')>0){
          length2 = numStr2.split('.')[1].length
        }
        let maxLength=length1>length2?length1:length2
        let middleNum=Math.pow(10,maxLength)


        if(opreation=='*'){
          if(middleNum>0){
            let reNum=(num1*middleNum) * (num2 * middleNum) / middleNum / middleNum
            return reNum
          }
          return num1 * num2
        }
        else if(opreation=='-'){
          if(middleNum>0){
            let reNum=((num1*middleNum) - (num2 * middleNum)) / middleNum 
            return reNum
          }
          return num1 - num2
        }
        else if(opreation=='/'){
          if(middleNum>0){
            let reNum=((num1*middleNum) / (num2 * middleNum)) / middleNum 
            return reNum
          }
          return num1 / num2
        }
        else{
          if(middleNum>0){
            let reNum=((num1*middleNum) + (num2 * middleNum)) / middleNum
            return reNum 
          }
          return num1 + num2
        }
      }
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值