js 浮点数乘法

这篇博客探讨了JavaScript中浮点数乘法导致的精度问题,由于JavaScript使用IEEE-754标准存储数字,可能导致小数运算不准确。作者提出了两种解决方法,一种是通过计算小数位数来调整精度,另一种是将小数转换为整数计算后再转换回来。然而,这两种方法在特定情况下仍可能存在误差。
摘要由CSDN通过智能技术生成

js浮点数乘法bug

bug原因:
JavaScript 内部只有一种数字类型Number,也就是说,JavaScript 语言的底层根本没有整数,所有数字都是以IEEE-754标准格式64位浮点数形式储存,1与1.0是相同的。因为有些小数以二进制表示位数是无穷的。JavaScript会把超出53位之后的二进制舍弃,所以涉及小数的比较和运算就会出问题,博主刚刚就到了,计算价格的时候,如下图。
aaa
111.1*12得到如下

解决方法一:

这个方法还是有问题的,当111.11 * 7 * 49的时候也会有问题

/**
     ** 乘法函数,用来得到精确的乘法结果
    ** 说明:javascript的乘法结果会有误差,在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。
    ** 调用:accMul(arg1,arg2)
    ** 返回值:arg1乘以 arg2的精确结果
    **/
 // 浮点数相乘 
export function accMul(num1, num2) {
	var m = 0,
		s1 = num1.toString(),
		s2 = num2.toString();
	try {
		m += s1.split(".")[1].length
	} catch (e) {};
	try {
		m += s2.split(".")[1].length
	} catch (e) {};
	return Number(s1.replace(".", "")) * Number(s2.replace(".", "")) / Math.pow(10, m);
}
解决方法二:

这个方法还是有问题的,当111.11 * 7 * 49的时候ok
思路:先把你的小数乘100变成整数在计算乘积,最后结果在除以100,完美解决😁~

let numVule = (price || 0) * 100 * num ) / 100;
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值