js运算精度丢失问题

今天出现了一个运算bug,求总计的时候出现精度问题。

 

下面的输入框求和,总计之后得到了这样的数字。

现在很多人js加法运算都是调用了这么一套代码。

// 加
function floatAdd(arg1, arg2) {
	var r1, r2, m;
	try {
		r1 = arg1.toString().split(".")[1].length;
	} catch (e) {
		r1 = 0;
	}
	try {
		r2 = arg2.toString().split(".")[1].length;
	} catch (e) {
		r2 = 0;
	}
	m = Math.pow(10, Math.max(r1, r2));
	return (arg1 * m + arg2 * m) / m;
}

但实际上还是会出现精度问题,主要出现在arg1 * m,在进行直接的*乘法的时候会出现精度问题。

在浏览器调试模式可以很直观的看到。

解决办法

可以利用如下代码去替换原本的 * 乘。

// 乘
function floatMultiply(arg1, arg2) {
	if(arg1 == null || arg2 == null){
		return null;
	}
	var n1,n2;
	var r1, r2; // 小数位数
	try {
		r1 = arg1.toString().split(".")[1].length;
	} catch (e) {
		r1 = 0;
	}
	try {
		r2 = arg2.toString().split(".")[1].length;
	} catch (e) {
		r2 = 0;
	}
	n1 = Number(arg1.toString().replace(".", ""));
	n2 = Number(arg2.toString().replace(".", ""));
	return n1 * n2 / Math.pow(10, r1+r2);
}

整理后的加减乘除代码如下。

// 加
function floatAdd(arg1, arg2) {
	var r1, r2, m;
	try {
		r1 = arg1.toString().split(".")[1].length;
	} catch (e) {
		r1 = 0;
	}
	try {
		r2 = arg2.toString().split(".")[1].length;
	} catch (e) {
		r2 = 0;
	}
	m = Math.pow(10, Math.max(r1, r2));
	return (floatMultiply(arg1 , m) + floatMultiply(arg2 , m)) / m;
}

// 减
function floatSub(arg1, arg2) {
	var r1, r2, m, n;
	try {
		r1 = arg1.toString().split(".")[1].length;
	} catch (e) {
		r1 = 0;
	}
	try {
		r2 = arg2.toString().split(".")[1].length;
	} catch (e) {
		r2 = 0;
	}
	m = Math.pow(10, Math.max(r1, r2));
	// 动态控制精度长度
	n = (r1 >= r2) ? r1 : r2;
	return ((floatMultiply(arg1 , m) - floatMultiply(arg2 , m)) / m).toFixed(n);
}

// 乘
function floatMultiply(arg1, arg2) {
	if(arg1 == null || arg2 == null){
		return null;
	}
	var n1,n2;
	var r1, r2; // 小数位数
	try {
		r1 = arg1.toString().split(".")[1].length;
	} catch (e) {
		r1 = 0;
	}
	try {
		r2 = arg2.toString().split(".")[1].length;
	} catch (e) {
		r2 = 0;
	}
	n1 = Number(arg1.toString().replace(".", ""));
	n2 = Number(arg2.toString().replace(".", ""));
	return n1 * n2 / Math.pow(10, r1+r2);
}

// 除
function floatDivide(arg1, arg2) {
	if(arg1 == null){
		return null;
	}
	if(arg2 == null || arg2 == 0){
		return null;
	}
	var n1,n2;
	var r1, r2; // 小数位数
	try {
		r1 = arg1.toString().split(".")[1].length;
	} catch (e) {
		r1 = 0;
	}
	try {
		r2 = arg2.toString().split(".")[1].length;
	} catch (e) {
		r2 = 0;
	}
	n1 = Number(arg1.toString().replace(".", ""));
	n2 = Number(arg2.toString().replace(".", ""));
	return (n1 / n2) * Math.pow(10, r2 - r1);
}

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值