mathjs解决js当中计算精度问题

总结一下今天项目当中 js 计算精度问题

问题是:在 js 当中 12 * 0.1 != 1.2的问题

1. 使用mathjs解决

  • 使用mathjs  可以解决这个问题  
    • 安装依赖  npm install mathjs --save
  • 在需要解决精度问题的页面引入 mathjs: const math = require('mathjs')
  • 使用math.format方法  如:math.format( a*b,num )
  • a b 表示需要计算的两个数,可以进行加减乘除平方等等计算,num表示精度,最大为14,表示单一文本框最大的数字位数,包括小数点前后
  • 当用户输入666.666(6个)
    • num为5时,输入的数字显示为666.66
    • num为6时,输入的数字显示为666.666
  • 具体操作的代码如下:

2. 另外一种解决方法

上面mathjs方法可以解决上面 js 精度计算的问题,但是如果输入的数字过大,会出现科学计数法的情况,所以仍然还有些问题,所以可以使用下面的方法,解决掉这个问题

//乘法
NumberMul(arg1, arg2){
    var m = 0;
    var s1 = arg1.toString();
    var s2 = arg2.toString();
    try{
        m += s1.split('.')[1].length;
    } catch (e) {}
    try{
        m += s2.split('.')[1].length;
    } catch (e) {}
    return Number(s1.replace('.','')) * Number(s2.replace('.','')) / Math.pow(10,m)
}

//加法
NumberAdd(arg1, arg2){
    var r1,r2,m,n
    try{
        r1 = arg1.toString().split('.')[1].length
    } catch (e){
        r1 = 0
    }
    try{
        r2 = arg2.toString().split('.')[1].length
    } catch (e){
        r2 = 0
    }
    m = Math.pow(10, Math.max(r1, r2))
    n = ( r1 >= r2 ) ? r1 : r2
    return ((arg1 * m + arg2 * m ) / m ).toFixed(n)
}

上面的方法可以放在vue原型对象( prototype )上,可以作为全局的方法使用

  • 1
    点赞
  • 4
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值