解决JS浮点型的运算精度问题

完美解决JS浮点型的运算精度问题

(function (Number) {
    //加法
    Number.prototype.add = function (arg) {
        var r1, r2, m;
        try {
            r1 = this.toString().split(".")[1].length
        } catch (e) {
            r1 = 0
        }
        try {
            r2 = arg.toString().split(".")[1].length
        } catch (e) {
            r2 = 0
        }
        m = Math.pow(10, Math.max(r1, r2))
        var a = parseInt(this * m + 0.5)
        var b = parseInt(arg * m + 0.5)
        return (a + b) / m
    }
//减法
    Number.prototype.sub = function (arg) {
        return this.add(-arg);
    }

//乘法
    Number.prototype.mul = function (arg) {
        var m = 0, s1 = this.toString(), s2 = arg.toString();
        try {
            m += s1.split('.')[1].length
        } catch (e) {
        }
        try {
            m += s2.split('.')[1].length // m是累加结果
        } catch (e) {
        }
        return Number(s1.replace('.', '')) * Number(s2.replace('.', '')) / Math.pow(10, m)
    }

//除法
    Number.prototype.div = function (arg) {
        var r1, r2, m;
        try {
            r1 = this.toString().split(".")[1].length
        } catch (e) {
            r1 = 0
        }
        try {
            r2 = arg.toString().split(".")[1].length
        } catch (e) {
            r2 = 0
        }
        m = Math.pow(10, Math.max(r1, r2))
        var a = parseInt(this * m + 0.5)
        var b = parseInt(arg * m + 0.5)
        return a/b
    }
})(Number)
console.log((0.1).add(0.2)) // 0.3
console.log((0.1).mul(0.005)) // 0.0005

鸣谢作者:姜治宇

来自完美解决JS浮点型的运算精度问题

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值