JS 中浮点数运算精度问题解决

解决js小数运算精度问题

类似:0.1+0.2 = 0.30000000000000004;0.11 + 0.345 = 0.45499999999999996;
解决方法需要把小数转成整数运算完后在转成小数

  • 这边以 0.11 + 0.345 = 0.45499999999999996; 这个为例
  • 代码
    //判断小数点后有几位
    let num1 = 0.11.toString().split(".")[1].length;//2
    let num2 = 0.345.toString().split(".")[1].length;//3
    
    let baseNum = null;
    if( num1 > num2 ) {//判断取小数点后位数多的那一个
        baseNum = num1;
    } else {
        baseNum = num2;
    }
    
    let sum =  (~~(0.11 * 10 ** baseNum) ) + (~~(0.345 * 10 ** baseNum))
    sum = sum /10 ** baseNum; //0.455;
    
  • 封装代码
    const decimals = ( num1,operationalCharacter,num2 ) => {
        let num_1 = num1;
        let num_2 = num2;
        num1 = num1.toString().split(".")[1].length;//2
        num2 = num2.toString().split(".")[1].length;//3
        
        let baseNum = null;
        if( num1 > num2 ) {//判断取小数点后位数多的那一个
            baseNum = num1;
        } else {
            baseNum = num2;
        }
        let sum;
        switch (operationalCharacter) {
            case "+":
                sum =  ( ~~(num_1 * 10 ** baseNum) ) + ( ~~(num_2 * 10 ** baseNum) );
                break;
            case "-":
                sum =  ( ~~(num_1 * 10 ** baseNum) ) - ( ~~(num_2 * 10 ** baseNum) );
                break;
            case "*":
                sum =  ( ~~(num_1 * 10 ** baseNum) ) * ( ~~(num_2 * 10 ** baseNum) );
                break;
            case "/":
                sum =  ( ~~(num_1 * 10 ** baseNum) ) / ( ~~(num_2 * 10 ** baseNum) );
                break;
        
            default:
                break;
        }
        sum = sum / 10 ** baseNum;
        return sum
    
    };
    
    export default decimals;
    // decimals( num1, operationalCharacter, num2 )
    // num1:运算数1
    // operationalCharacter:运算符
    // num2:运算数2
    
    // decimals(运算数1,运算符,运算数2)
    
    
  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值