mathjs解决js当中计算精度问题

最新推荐文章于 2024-05-22 16:35:26 发布

小鱼儿同学啦

最新推荐文章于 2024-05-22 16:35:26 发布

阅读量3.1k

点赞数 1

文章标签： js计算精度问题 mathjs Math.pow 解决vue项目中计算精度问题

本文链接：https://blog.csdn.net/weixin_41829477/article/details/105366463

版权

本文探讨了JavaScript中常见的计算精度问题，特别是12*0.1!=1.2的现象，并提供了两种有效的解决方法：使用mathjs库和自定义数学运算函数。mathjs库能够通过format方法控制计算精度，而自定义函数则适用于处理大数计算，避免科学计数法的出现。

摘要由CSDN通过智能技术生成

总结一下今天项目当中 js 计算精度问题

问题是：在 js 当中 12 * 0.1 != 1.2的问题

1. 使用mathjs解决

使用mathjs 可以解决这个问题
- 安装依赖 npm install mathjs --save
在需要解决精度问题的页面引入 mathjs: const math = require('mathjs')
使用math.format方法如：math.format( a*b,num )
a b 表示需要计算的两个数，可以进行加减乘除平方等等计算，num表示精度，最大为14，表示单一文本框最大的数字位数，包括小数点前后
当用户输入666.666(6个)
- num为5时，输入的数字显示为666.66
- num为6时，输入的数字显示为666.666
具体操作的代码如下：

2. 另外一种解决方法

上面mathjs方法可以解决上面 js 精度计算的问题，但是如果输入的数字过大，会出现科学计数法的情况，所以仍然还有些问题，所以可以使用下面的方法，解决掉这个问题

//乘法
NumberMul(arg1, arg2){
    var m = 0;
    var s1 = arg1.toString();
    var s2 = arg2.toString();
    try{
        m += s1.split('.')[1].length;
    } catch (e) {}
    try{
        m += s2.split('.')[1].length;
    } catch (e) {}
    return Number(s1.replace('.','')) * Number(s2.replace('.','')) / Math.pow(10,m)
}

//加法
NumberAdd(arg1, arg2){
    var r1,r2,m,n
    try{
        r1 = arg1.toString().split('.')[1].length
    } catch (e){
        r1 = 0
    }
    try{
        r2 = arg2.toString().split('.')[1].length
    } catch (e){
        r2 = 0
    }
    m = Math.pow(10, Math.max(r1, r2))
    n = ( r1 >= r2 ) ? r1 : r2
    return ((arg1 * m + arg2 * m ) / m ).toFixed(n)
}

上面的方法可以放在vue原型对象（ prototype ）上，可以作为全局的方法使用