js 解决小数精度问题

/**
 * 解决小数精度问题
 * @param {*数字} a
 * @param {*数字} b
 * @param {*符号} sign
 * fixedFloat(0.3, 0.2, '-')
 */

function padding0(p) {
	var z = ''
	while (p--) {
		z += '0';
	}
	return z;
}
fixedFloat(a, b, sign) {
	function handle(x) {
		var y = String(x);
		var p = y.lastIndexOf('.');
		if (p === -1) {
			return [y, 0];
		} else {
			return [y.replace('.', ''), y.length - p - 1];
		}
	}
	// v 操作数1, w 操作数2, s 操作符, t 精度
	function operate(v, w, s, t) {
		switch (s) {
			case '+':
				return (v + w) / t;
			case '-':
				return (v - w) / t;
			case '*':
				return (v * w) / (t * t);
			case '/':
				return (v / w);
		}
	}

	var c = handle(a);
	var d = handle(b);
	var k = 0;

	if (c[1] === 0 && d[1] === 0) {
		return operate(+c[0], +d[0], sign, 1);
	} else {
		k = Math.pow(10, Math.max(c[1], d[1]));
		if (c[1] !== d[1]) {
			if (c[1] > d[1]) {
				d[0] += padding0(c[1] - d[1]);
			} else {
				c[0] += padding0(d[1] - c[1]);
			}
		}
		return operate(+c[0], +d[0], sign, k);
	}
}

//  fixedFloat(0.3, 0.2, '-') 使用方法

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值