解决js中浮点数(小数)计算不准确问题

1. 原因

    js计算最终也是通过计算机进行计算,而计算机只能识别二进制的0和1,也就是说我们所写的计算都必须转成二进制数才能进行计算,然而有些小数转成二进制数的时候除不尽,出现无限小数位,这时候就只能取近似值进行计算,导致了我们所遇到的不准确的问题。

2. 解决方案

    解决思路: 我们可以把需要进行计算的小数转成整数进行计算,然后在变成小数

    可以像我这样写一个工具方法:

//四则运算化成整数计算方法
    var floatCalc = function (a, b) {
        a = a + '', b = b + '';
        var aNum = a.indexOf('.'),
            bNum = b.indexOf('.'),
            aSum,
            bSum,
            resultNum,
            inta,
            intb;

        aSum = aNum < 0 ? 0 : a.split('.')[1].length;
        bSum = bNum < 0 ? 0 : b.split('.')[1].length;
        resultNum = aSum > bSum ? aSum : bSum;

        inta = aNum < 0 ? Number(a + (Math.pow(10, resultNum) + '').replace('1', '')) : (function () {
            a = a.replace('.', '');
            a = resultNum == aSum ? a : a + (Math.pow(10, resultNum - aSum) + '').replace('1', '');
            return Number(a);
        }())

        intb = bNum < 0 ? Number(b + (Math.pow(10, resultNum) + '').replace('1', '')) : (function () {
            b = b.replace('.', '');
            b = resultNum == bSum ? b : b + (Math.pow(10, resultNum - bSum) + '').replace('1', '');
            return Number(b);
        }())

        return {
            a: inta,
            b: intb,
            num: resultNum
        };
    }
    //加法
    Number.prototype.add = function (n) {
        var o = floatCalc(this, n);
        return (o.a + o.b) / Math.pow(10, o.num);
    }
    //减法
    Number.prototype.minus = function (n) {
        var o = floatCalc(this, n);
        return (o.a - o.b) / Math.pow(10, o.num);
    }
    //乘法
    Number.prototype.subtract = function (n) {
        var o = floatCalc(this, n);
        return (o.a * o.b) / Math.pow(10, o.num * 2);
    }
    //除法
    Number.prototype.divide = function (n) {
        var o = floatCalc(this, n);
        return (o.a / o.b);
    }

这样就可以直接使用Number原型上的这些方法进行计算了

console.log(686.40.add(62.41));
console.log(1.22.minus(1));
console.log(10.40.subtract(6));
console.log(1..divide(1.22));

注意:Number类型的整数直接调用原型上的方法会报错,引擎不能区分是小数点还是调用方法的点,这时候多写一个点或者加空格都可以(一般业务场景都是变量进行调用)
 

 

  • 2
    点赞
  • 7
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值