oracle 尾差计算,JavaScript使用math.js进行精确计算操作示例

JavaScript使用math.js进行精确计算操作示例

发布于 2020-7-6|

复制链接

摘记: 本文实例讲述了JavaScript使用math.js进行精确计算操作。分享给大家供大家参考，具体如下：javascript进行浮点运算会有尾差，比如算个0.1+0.7试试，得到的不是0.8 。这个问题可以使用math.js解决。Math.js是一款开源的JavaScript和Node.js数学库,用于处理数字、大数、复数、单 ..

本文实例讲述了JavaScript使用math.js进行精确计算操作。分享给大家供大家参考，具体如下：javascript进行浮点运算会有尾差，比如算个0.1+0.7试试，得到的不是0.8 。这个问题可以使用math.js解决。Math.js是一款开源的JavaScript和Node.js数学库,用于处理数字、大数、复数、单位和矩阵。官网： http://mathjs.org/cdn地址：https://cdnjs.cloudflare.com/ajax/libs/mathjs/5.0.0/math.js示例代码：

```javascript

function fn_click(p){

var a , b;

a=0.7;

b=0.1;

if(p==1){

alert(a+b);

}else if(p==2){

alert(eval("a+b"));

}else if(p==3){

math.config({

number: 'BigNumber'

});

var result = math.parser().eval(a + "+" + b)

alert(result);

}

}

```