在 JavaScript 中整数和浮点数都属于Number数据类型,所有数字(包括整数)都是以 64 位浮点数形式储存。JavaScript 里的数字是采用IEEE 754标准的 64 位双精度浮点数,计算机进行计算的时候,会把数字转换为二进制,进行运算之后再转换为十进制,但是运算过程中小数部分最多支持52位,就会出现运算精度问题。
javascript的加法结果会有误差,在两个浮点数相加的时候会比较明显。这些函数返回较为精确的加减乘除结果。
加法函数
加法函数,用来得到精确的加法结果
调用:accAdd(arg1,arg2)
返回值:arg1加上arg2的精确结果
accAdd(arg1,arg2) {
var r1, r2, m;
try {
r1 = arg1.toString().split('.')[1].length;
} catch (e) {
r1 = 0;
}
try {
r2 = arg2.toString().split('.')[1].length;
} catch (e) {
r2 = 0;
}
m = Math.pow(10, Math.max(r1, r2));
return (arg1 * m + arg2 * m) / m;
}
//给Number类型增加一个add方法,调用起来更加方便。
Number.prototype.add = function (arg){
return accAdd(arg,this);
}
减法函数
减法函数,用来得到精确的加法结果
调用:subFloatToInt(arg1,arg2)
返回值:arg1减去arg2的精确结果
subFloatToInt(arg1, arg2) {
var r1, r2, m, n;
try {
r1 = arg1.toString().split('.')[1].length;
} catch (e) {
r1 = 0;
}
try {
r2 = arg2.toString().split('.')[1].length;
} catch (e) {
r2 = 0;
}
m = Math.pow(10, Math.max(r1, r2));
//动态控制精度长度
n=(r1>=r2)?r1:r2;
return ((arg1*m-arg2*m)/m).toFixed(n);
}
除法函数
除法函数,用来得到精确的除法结果
调用:accDiv(arg1,arg2)
返回值:arg1除去arg2的精确结果
function accDiv(arg1,arg2){
var t1 = 0,
t2 = 0,
r1,
r2;
try {
t1 = arg1.toString().split('.')[1].length;
} catch (e) {}
try {
t2 = arg2.toString().split('.')[1].length;
} catch (e) {}
r1 = Number(arg1.toString().replace('.', ''));
r2 = Number(arg2.toString().replace('.', ''));
return (r1 / r2) * Math.pow(10, t2 - t1);
}
乘法函数
乘法函数,用来得到精确的乘法结果
调用:accMul(arg1,arg2)
返回值:arg1乘以arg2的精确结果
function accMul(arg1, arg2) {
var m = 0,
s1 = arg1.toString(),
s2 = arg2.toString();
try {
m += s1.split('.')[1].length;
} catch (e) {}
try {
m += s2.split('.')[1].length;
} catch (e) {}
return (Number(s1.replace('.', '')) * Number(s2.replace('.', ''))) / Math.pow(10, m);
}