javascript float数学运算精度控制

 float类型的数据在做数学运算时,由于精度的问题,很多时候不能正确的表示出我们希望的结果,解决此问题的基本策略是手动控制精度,也就是程序员强制控制float数据的小数点后的位数,基于此思路的实现方案,不一而足。下面简单介绍最常用的几种:

(1)使用Math.round()函数

Math.round()方法可把一个数字舍入为最接近的整数,如3.5舍入为4,-3.5舍入为-3。

var num = 12.345678;

var num1 = Math.round(num*100)/100;//12.35

alert(num);//12.345678

(2)使用toFixed(num)方法

toFixed() 方法可把 Number 四舍五入为指定小数位数的数字

var num = 12.345678;

var num1 = num.toFixed(2);//12.35

alert(num);//12.345678

(3)使用改进的toFixed()方法

在实际应用中,有一种尽量减小计算误差的方法,就是计算之初,将数值放大,再将计算的结果原倍数缩小,

这样可以减少每次截取数值的次数,也就减小了直接计算的误差。下面这种写法相当于重写了js内部的toFixed方 法,会覆盖掉原始的toFixed方法。

Number.prototype.toFixed  =   function ( exponent)

    return  parseInt( this   *  Math.pow(  10 , exponent)  +   0.5 )/Math.pow(10,exponent);
}

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值