ECMAScript浮点数值计算舍入误差问题

由于ECMAScript使用基于IEEE754数值的浮点计算方法(本人也不明白这是什么鬼,大概知道一下就好了),有时在做加减计算时会出现如下问题。

实例:

输入一下代码:

<script>
    var a = 1.1;
    var b = 1.4;
    alert(a+b);
</script>
浏览器会弹出以下结果(有时):


但是比如输入一下代码时:

<script>
    var a = 1.2;
    var b = 1.4;
    alert(a+b);
</script>
浏览器会弹出以下结果(有时):


因此不建议判断浮点数值加减的值,比如:

var a = 0.1,
      b = 0.2;
if(a+b == 0.3){
    alert("You got 0.3.");
}


但是平常需要操作浮点数值的加减运算时,可以用以下两种方法解决舍入误差问题。

比如:

var a = 20.89,
    b = 18.95;
alert(a-b);
计算结果是:1.9400000000000013

解决方法一:

alert((a*100-b*100)/100);
解决方法二:

alert(parseFloat(a-b).toFixed(2));

parseFloat(a-b):意为a-b的值取小数

toFixed(2):意为保留两位小数



  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值