javascript关于小数计算的结果会出现小数的位数变多的现象

javascript关于小数计算的Bug

今天对一个表格数据进行累加时出现了结果的小数位数变多了(要求所有的数值最多是3位小数),例如:

件数吨数
11.22
12.111
12.03
 累计:5.361000000000001

再例如:7*0.8=5.6000000000000005
原先我也不明白,查询资料后理解的大概
一是JS浮点数计算的bug, 另一个是和计算机最终转换成二进制计算有关系, 但是为什么不是所有小数都会有这种现象, 目前我也不清楚,
有时间再去深入研究一下。 也望精英指导。
个人解决方法:1:把所有书乘以1000即:num*1000;然后累加得到sum,然后除以1000即:sum=sum/1000;
2,采用toFixed()方法:就是将表格的计算结果,sum1.toFixed(3)即可;
numberObject.toFixed(num);解释num是必须参数取值[0-20]包括0和20指的是四舍五入后保留的小数的位数,toFixed()方法不仅仅会截取小数的位数,还会从截取的地方进行四舍五入
例如:7.325.toFixed(2)==7.33;7.322.toFixed(2)==7.32;
numberObject.toFixed(num)方法的兼容问题我尚未遇到;如果有精英发现,请告知,我在ie浏览器下测试都可以;
3,还有关于计算速度问题,方法1效率高。
4,自定算法
//自定义加法运算
			function addNum (num1, num2) {
			    var sq1,sq2,m;
			    try {
			        sq1 = num1.toString().split(".")[1].length;
			    }
			    catch (e) {
			        sq1 = 0;
			    }
			    try {
			        sq2 = num2.toString().split(".")[1].length;
			    }
			    catch (e) {
			        sq2 = 0;
			    }
			    m = Math.pow(10,Math.max(sq1, sq2));
			    return (num1 * m + num2 * m) / m;
			}
			alert(addNum(22.77, 10));
这种方法就可以很好地解决。其中Math.pow(x,y)方法返回x,y次方。x,y 必须使数字。

本人初次写blog 难免有不足之处,敬请谅解,也望精英给予批评指正,谢谢。

  • 4
    点赞
  • 8
    收藏
    觉得还不错? 一键收藏
  • 3
    评论
评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值