java 精准运算_js精准计算

js精准计算

var numA = 0.1;

var numB = 0.2;

alert( numA + numB );

0.1 + 0.2 = 0.30000000000000004。

计算精度误差问题(和二进制相关)。

对于浮点数的四则运算，几乎所有的编程语言都会有类似精度误差的问题，只不过在 C++/C#/Java 这些语言中已经封装好了方法来避免精度的问题，而 JavaScript 是一门弱类型的语言，从设计思想上就没有对浮点数有个严格的数据类型，所以精度误差的问题就显得格外突出。

我们先把 0.1 和 0.2 转换成二进制看看：

0.1 => 0.0001 1001 1001 1001…(无限循环)

0.2 => 0.0011 0011 0011 0011…(无限循环)

双精度浮点数的小数部分最多支持 52 位，所以两者相加之后得到这么一串 0.0100110011001100110011001100110011001100110011001100 因浮点数小数位的限制而截断的二进制数字，这时候，我们再把它转换为十进制，就成了 0.30000000000000004。

如何解决呢？

首先将数乘以10的幂次方去掉小数位得到可以转化二进制的整数，计算之后再还原。

/**

** 除法函数，用来得到精确的除法结果

** 说明：javascript的除法结果会有误差，在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。

** 调用：accDiv(arg1,arg2)

** 返回值：arg1除以arg2的精确结果

**/

function accDiv(arg1, arg2) {

var t1 = 0, t2 = 0, r1, r2;

try {

t1 = arg1.toString().split(".")[1].length;

}

catch (e) {

}

try {

t2 = arg2.toString().split(".")[1].length;

}

catch (e) {

}

with (Math) {

r1 = Number(arg1.toString().replace(".", ""));

r2 = Number(arg2.toString().replace(".", ""));

return (r1 / r2) * Math.pow(10, t2 - t1);

}

}

/**

** 加法函数，用来得到精确的加法结果

** 说明：javascript的加法结果会有误差，在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。

** 调用：accAdd(arg1,arg2)

** 返回值：arg1加上arg2的精确结果

**/

function accAdd(arg1, arg2) {

var r1, r2, m, c;

try {

r1 = arg1.toString().split(".")[1].length;

}

catch (e) {

r1 = 0;

}

try {

r2 = arg2.toString().split(".")[1].length;

}

catch (e) {

r2 = 0;

}

c = Math.abs(r1 - r2);

m = Math.pow(10, Math.max(r1, r2));

if (c > 0) {

var cm = Math.pow(10, c);

if (r1 > r2) {

arg1 = Number(arg1.toString().replace(".", ""));

arg2 = Number(arg2.toString().replace(".", "")) * cm;

} else {

arg1 = Number(arg1.toString().replace(".", "")) * cm;

arg2 = Number(arg2.toString().replace(".", ""));

}

} else {

arg1 = Number(arg1.toString().replace(".", ""));

arg2 = Number(arg2.toString().replace(".", ""));

}

return (arg1 + arg2) / m;

}

/**

** 乘法函数，用来得到精确的乘法结果

** 说明：javascript的乘法结果会有误差，在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。

** 调用：accMul(arg1,arg2)

** 返回值：arg1乘以 arg2的精确结果

**/

function accMul(arg1, arg2) {

var m = 0, s1 = arg1.toString(), s2 = arg2.toString();

try {

m += s1.split(".")[1].length;

}

catch (e) {

}

try {

m += s2.split(".")[1].length;

}

catch (e) {

}

return Number(s1.replace(".", "")) * Number(s2.replace(".", "")) / Math.pow(10, m);

}