小数精度丢失,前端 JS 运算

14 篇文章 0 订阅
7 篇文章 0 订阅

一、出现浮点数失精的原因

小数失精度问题的原因是数字计算时,要先转成二进制再进行计算,计算完后再转成IEEE 754 浮点数。
有的小数再转二进制时会出现无限循环的情况,最后计算完再转回来就会导致精度丢失。

:0.1转二进制的过程,整数部分为二进制数据,出现了死循环。

小数x2的结果整数部分
0.10.20
0.20.40
0.40.80
0.81.61
0.61.21
0.20.40

二、常规加减乘除方法

  • 将小数化成整数后再作运算
  • 避免方法中出现小数相乘

1、加

  • 转成整数相加
  • Math.pow(10, ... ) 为整数,与和相除不会丢失精度
/**
 * 加法运算,避免数据相加小数点后产生多位数和计算精度损失。
 * @param num1 加数1
 * @param num2 加数2
 */
function numAdd(num1, num2) {
	var baseNum, baseNum1, baseNum2;
	try {
		baseNum1 = num1.toString().split(".")[1].length;
	} catch (e) {
		baseNum1 = 0;
	}
	try {
		baseNum2 = num2.toString().split(".")[1].length;
	} catch (e) {
		baseNum2 = 0;
	}
	baseNum = Math.pow(10, Math.max(baseNum1, baseNum2));
	return (num1 * baseNum + num2 * baseNum) / baseNum;
};

2、减

  • 减数和被减数,小数最多位作为精度值
/**
 * 减法运算,避免数据相减小数点后产生多位数和计算精度损失。
 * @param num1 被减数
 * @param num2 减数 
 */
function numSub(num1, num2) {
	var baseNum, baseNum1, baseNum2;
	var precision;// 精度
	try {
		baseNum1 = num1.toString().split(".")[1].length;
	} catch (e) {
		baseNum1 = 0;
	}
	try {
		baseNum2 = num2.toString().split(".")[1].length;
	} catch (e) {
		baseNum2 = 0;
	}
	baseNum = Math.pow(10, Math.max(baseNum1, baseNum2));
	precision = (baseNum1 >= baseNum2) ? baseNum1 : baseNum2;
	return ((num1 * baseNum - num2 * baseNum) / baseNum).toFixed(precision);
};

3、乘

  • 转成整数相乘
  • Math.pow(10, ... ) 为整数, 与乘积相除不会丢失精度
/**
 * 乘法运算,避免数据相乘小数点后产生多位数和计算精度损失。
 * @param num1 被乘数
 * @param num2 乘数 
 */
function numMulti(num1, num2) {
	var baseNum = 0;
	try {
		baseNum += num1.toString().split(".")[1].length;
	} catch (e) {
	}
	try {
		baseNum += num2.toString().split(".")[1].length;
	} catch (e) {
	}
	return Number(num1.toString().replace(".", "")) * Number(num2.toString().replace(".", "")) / Math.pow(10, baseNum);
};

4、除

  • 转成整数相除
  • 必须使 Math.pow(10, ... ) 结果为整数
  • num1 小数位大于 num2, 商乘以 Math.pow(10, baseNum2 - baseNum1) 不会丢失精度
  • num1 小数位小于 num2, 商除以 Math.pow(10, baseNum2 - baseNum1) 不会丢失精度
/**
 * 除法运算,避免数据相除小数点后产生多位数和计算精度损失。
 * @param num1 被除数
 * @param num2 除数 
 */
function numDiv(num1, num2) {
	var baseNum1 = 0, baseNum2 = 0;
	var baseNum3, baseNum4;
	try {
		baseNum1 = num1.toString().split(".")[1].length;
	} catch (e) {
		baseNum1 = 0;
	}
	try {
		baseNum2 = num2.toString().split(".")[1].length;
	} catch (e) {
		baseNum2 = 0;
	}
	
	/*
	with (Math) {
		baseNum3 = Number(num1.toString().replace(".", ""));
		baseNum4 = Number(num2.toString().replace(".", ""));
		return (baseNum3 / baseNum4) * pow(10, baseNum2 - baseNum1);
	}
	*/

	baseNum3 = Number(num1.toString().replace(".", ""));
	baseNum4 = Number(num2.toString().replace(".", ""));
	if( (baseNum2 - baseNum1) < 0){
		return (baseNum3 / baseNum4) / Math.pow(10, baseNum1 - baseNum2)
	}
	return (baseNum3 / baseNum4) * Math.pow(10, baseNum2 - baseNum1);

};

三、精度的另一种解决方案

parseFloat((0.1 + 0.2).toFixed(10))

原理:小数部分最多有17位,当出现失精的情况下,往往中间都是0,而最后一位是数字
在这里插入图片描述
截取小数点后十位,得到这样的结果:
在这里插入图片描述
最后转成浮点数,即想要的结果
在这里插入图片描述

  • 1
    点赞
  • 8
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值